圖靈獎得主示警 AI失控風險成挑戰

新浪財經報導，另一位圖靈獎得主、被譽爲「AI教父」的辛頓（Geoffrey Hinton）26日在主論壇上發出警告。辛頓直言，幾乎所有專家都認爲未來會出現比人類更具智慧的AI，這些AI智慧體爲完成任務，可能產生求生與獲得更多控制的慾望，進而操縱人類，屆時將難以輕易關閉它們。辛頓以「養老虎當寵物」比喻，一旦老虎長大，飼主可能反受其害，而人類也無法消滅AI，因它們已在各領域扮演關鍵角色。

辛頓呼籲，建立AI安全機構及國際社羣，研究如何訓練AI向善的技巧。建議各國可在本國主權範圍內研究並分享成果，全球或主要AI國家應思考建立相關網路，研究如何訓練聰明的AI以輔助人類，而非消滅或統治人類，這將是人類長期面臨的重要問題。

上海人工智能實驗室主任周伯文則從技術層面分析，當前AI發展呈現出通用化、可複製與開源等明確特點，這些特性雖極具應用潛力，但也伴隨許多風險。他進一步闡述，發展與安全應並重，過去一年，該實驗室與許多國際學者合作交流達成共識，認爲過去許多研究着重「讓AI安全」（make AI safe），但要真正實現安全可信的AI，應轉向「建構安全的AI」（make safe AI）。