“AI教父”辛頓呼籲國際合作探索訓練AI向善

來源：中國新聞網

中新網上海7月27日電(記者 吳家駒 宋宇晟)被業界稱爲“AI教父”的辛頓26日現身在上海舉辦的2025世界人工智能大會(WAIC)。

在當日的主題演講及對話中，這位諾獎、圖靈獎得主，重點談及人工智能安全問題，並呼籲不同國家應在人工智能治理上進行合作，探索訓練AI向善的方法。

人類與人工智能的關係一直是公衆關心的話題。辛頓在演講中將這一關係形容爲“養小老虎當寵物”。

“有人把老虎當寵物，小虎崽是很可愛的寵物。一般來說，養老虎當寵物不是個好主意。但如果要一直養着它，只有兩個選擇：想辦法訓練它讓它永遠不想吃了你，或者擺脫它。”

辛頓認爲，對於AI，我們沒有擺脫它的選項，AI對醫療保健、教育、氣候變化、新材料等太多事情都非常有用，能爲幾乎所有行業提供幫助並使人類更具生產力。

在當日與上海人工智能實驗室主任周伯文的對話中，辛頓進一步表示：“當今的多模態聊天機器人已經具有意識。”

辛頓認爲，人類正在創造的AI智能體已經具備創造自己子目標的能力。而一旦擁有創造子目標的能力，智能體就會想做兩件事：一是生存，僅僅是爲了能夠實現我們賦予它們的目標；二是更多的控制權，也僅僅是爲了能夠實現我們賦予它們的目標。

因此，如果人類想要生存，就必須找到辦法訓練AI向善。

辛頓建議建立一個由AI安全機構構成的國際社羣，致力於研發訓練AI向善的技術。

他認爲，實現訓練AI向善所需的技術與訓練AI變得更聰明的技術，在某種程度上是分離的，讓一個真正聰明的AI不想接管世界，即使它比大多數人聰明得多，也非常樂意處於人類的輔助角色。

辛頓認爲，未來會有某種通用的AI訓練方法，來使AI變得善良。“這可能並不真實，但我們應該探索這種可能性。”

“我們目前不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好消息是，在這個問題上，所有國家都可以一起合作。”辛頓說。(完)