AI與人邊界模糊　將超出控制

AI可以模仿人的語言、情感等功能，讓人對AI產生共情，於是一部分人就會認為，「AI是人，或具有人的某些精神品質」，AI和人相比除了硬件都相同，也可以有人格、有道德。因為AI在科學上沒有情感等人類品質，就可以排除或禁止一個人對AI產生共情嗎？這屬於人文的邊界，這個邊界至少目前非常模糊。

自今年6月以來，Google一名工程師稱某AI聊天機械人可能具有自己的「意識」，並稱該AI「令人印象深刻的語言技巧背後，可能還隱藏着一顆具備感知能力的心」。

據悉，這種觀點與根深蒂固的「二元論」是根本不同的，所以人工智能帶來的顛覆實際上遠超科技範疇。如果以這種觀點考慮，能化解很多矛盾和難題，包括法律難題，而且可以讓科學與人文在某種程度上重新「握手言和」。

中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平接受媒體訪問提到，與科學的邊界不同，AI與人類之間「人文的邊界」已非常模糊，如果AI真的具備人格、情感、道德，一般能力又超過人類，就會出現可控性問題。陳小平說，依據科學判斷，AI是沒有人格的。另一方面，導致這位Google員工認為AI有「人格」有其客觀原因，比如他可能對這個AI系統產生了共情。

然而，「幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會比人強，就像Alpha Go下棋一樣。如果AI的通用能力也超過人，到那時人類憑甚麼能夠控制AI？這是個疑問。而我們現在就要思考這樣的問題，提前做好風險防範。」他說，現在人工智能已經讓一些人產生了共情，將來會讓愈來愈多的人產生共情，這件事客觀存在，將給人機關係、人際關係帶來巨大的新挑戰和新機遇，是新的重大課題。（記者／宋柏瑜）

瀏覽 1,228 次