以馴虎比喻智能未來　AI教父辛頓：人類沒有擺脫的選擇但可馴服

▲「AI教父」傑弗裡·辛頓（Geoffrey Hinton）發表主題演講再談AI（人工智能）安全 。（圖／翻攝 澎湃新聞）

記者任以芳／綜合報導

2025世界人工智能大會（WAIC）今（26）日在上海正式開幕，本屆大會以「智能時代 同球共濟」爲主題。被譽爲「AI教父」辛頓也暢談對AI看法，他認爲人類對AI沒有「擺脫」這項選擇，但應該找到「馴服」辦法，因爲AI在醫療、教育、氣候變化、新材料等領域太有價值，能顯著提升人類生產力。」

《澎湃新聞》今天報導指出，2025世界人工智能大會（WAIC）今26日在上海正式開幕規劃超過100場專業論壇，會議匯聚全球1200多位專家，其中包括12位圖靈獎與諾貝爾獎得主。被譽爲「AI教父」、2024年諾貝爾物理學獎得主、圖靈獎獲得者傑弗裡·辛頓（Geoffrey Hinton）發表主題演講，直言AI安全已成「人類面臨的最重要問題」。

辛頓在演講中指出，人類理解語言的方式與大語言模型非常相似，「人類其實也會產生幻覺，經常編造東西，尤其在回憶久遠往事時」。但他強調，數位智能與人類有一個關鍵不同：軟體可以與硬體分離，「這意味着程序中的知識是『不朽的』。只要保存權重，就算銷燬所有硬體，也能在新硬體上重現完全相同的智能」。

數位計算能讓擁有相同權重的AI智能體輕鬆共享經驗，這一特性遠優於人類，但它的高能耗仍是挑戰。辛頓提醒，「如果能源足夠便宜，數位計算的優勢將更明顯」。

▲辛頓說，「要讓聰明的AI甘願做助手」。（圖／取自免費圖庫Pxfuel）

辛頓表示，幾乎所有專家都認爲，我們最終會創造出比人類更聰明的AI。「當AI擁有制定子目標的能力時，它自然會追求兩件事：生存，以及獲得更多控制權，因爲這是實現既定目標的手段。」

他警告，人類將面對「難以關閉的AI」，「它們會操縱人類，就像成年人對三歲孩童一樣輕而易舉。認爲可以在AI超越人類時，簡單讓某人去關掉它，這是不切實際的。」

辛頓將這種風險比作「養小老虎當寵物」，小老虎幼時可愛，但若無法讓它長大後「不吃你」，後果不堪設想。「問題是，我們沒有『放棄AI』的選項，因爲AI在醫療、教育、氣候變化、新材料等領域太有價值，能顯著提升人類生產力。」

辛頓強調，如果人類要生存，「必須找到方法訓練AI，讓它不要毀滅人類」。他呼籲建立國際合作機制，成立AI安全研究所與專業協會，共同開發「訓練AI向善」的技術，並與「讓AI更聰明」的技術相分離，確保未來即便AI超越人類智力，也願意保持輔助角色而非接管世界。

「我們目前完全不知道該如何做到這一點，但這是人類長遠最重要的問題。」辛頓認爲，好消息是這是一個「所有國家都有合作動機」的議題，因爲沒有國家希望AI接管人類，「任何找到防範方法的國家，都會樂於與其他國家分享」。

辛頓是深度學習理論的重要奠基人，與約書亞·本希奧（Yoshua Bengio）及楊立昆（Yann LeCun）並稱「深度學習三巨頭」，三人在2018年獲得圖靈獎。他曾在卡內基梅隆大學、加拿大多倫多大學任教，並於2013年加入谷歌，2023年5月離開谷歌後，開始公開呼籲謹慎開發AI，成爲「AI對齊派」的重要代表。

2024年，辛頓因在人工神經網路與機器學習領域的基礎性貢獻，與普林斯頓大學的約翰·霍普菲爾德（John Hopfield）共同獲得諾貝爾物理學獎。他長期致力於推動AI向有益於人類的方向發展，並在本次大會中再次強調，「如何確保AI與人類價值對齊，是人類未來能否延續的關鍵問題。」

本屆世界人工智能大會將持續至7月28日，期間將舉行多場關於AI安全、產業應用、倫理治理的高端對話，成爲全球AI未來發展的重要風向標。