AI教父辛頓上海演講：人類要馴服AI 「纔不被AI殺掉」

「AI教父」辛頓在上海發表主題演講再談AI安全 。(取材自WAIC官網)

在上海舉行的2025世界人工智能大會（WAIC），最受關注的演講者，是77歲的辛頓（Geoffrey Hinton），他是深度學習三巨頭之一、圖靈獎得主、同時也是2024年諾貝爾物理學獎獲得者。辛頓發表主題演講再談AI（人工智慧）安全，他以馴虎比喻，指人類無法擺脫AI，但應該找到馴服辦法，「纔不被自己造的AI殺掉」。

綜合網易科技、澎湃新聞報導，WAIC開幕前一天，一張合影在AI圈廣泛傳播。照片中，辛頓是唯一站着的一位。這並非刻意爲之。他十幾歲時因背部受傷留下頑疾，無法長期久坐。

這張照片拍攝於「AI安全國際對話上海共識」的簽署現場。辛頓與姚期智、Yoshua Bengio等20餘位全球頂級AI專家共同發佈了一份共識。文件指出，人工智能的能力已接近，甚至可能超越人類，但人類尚未掌握有效控制這些系統的方法。因此，共識呼籲各國加強在AI對齊與安全方向的基礎研究投入。

2023年，人稱「AI教父」的辛頓從谷歌辭職，併發出警告，稱生成式人工智能系統的商業應用構成了多重嚴重威脅，他警告說，從長遠來看，自主人工智能系統可能會對人類構成嚴重威脅。

今年2月，辛頓還對美國副總統範斯在巴黎AI行動峰會上的發言進行駁斥， 他認爲範斯顯示出他對AI危險性的一無所知：範斯犯了一個錯誤，認爲如果有監管，就會扼殺AI，「不，監管不會扼殺AI」。

在26日的主旨演講中，辛頓延續了他近年來對AI發展的核心思考。他表示，幾乎所有專家都認爲，我們終會創造出比人類更聰明的AI。「當AI擁有制定子目標的能力時，它會追求兩件事：生存，以及獲得更多控制權。」

他警告，人類將面對「難以關閉的AI」，「它們會操縱人類，就像成年人對三歲孩童一樣輕而易舉。認爲可以在AI超越人類時，簡單讓某人去關掉它，這是不切實際的」。

辛頓以養小老虎當寵物爲比喻，幼虎可愛，但若無法保證牠長大後「不吃你」，後果不堪設想。辛頓強調，如果人類要生存，「必須找到方法訓練AI，讓它不要毀滅人類」。他呼籲建立國際合作機制，成立AI安全研究所與專業協會，共同開發「訓練AI向善」的技術，並與「讓AI更聰明」的技術相分離，確保未來即便AI超越人類智力，也願意保持輔助角色而非接管世界。