AI教父辛頓：人類無法控制AI，唯一的生存之道或是培養“共情”能力

財聯社8月13日訊（編輯 牛佔林）在業內有“人工智能教父”之稱的計算機科學家傑弗裡·辛頓(Geoffrey Hinton)最新表示，他親手奠基的技術或將反噬人類，而大型科技公司目前的應對思路，在他看來完全是南轅北轍。

這位諾貝爾獎得主、前谷歌高管曾多次警告，人工智能(AI)“消滅人類”的概率在10%到20%之間。本週二，他在拉斯維加斯舉辦的一個產業峰會再度發聲，質疑科技公司試圖“讓人類永遠凌駕於AI之上”的通行做法。

辛頓指出：“這是行不通的，未來的AI將遠比我們人類聰明，它們有無數種辦法繞過人爲設定的枷鎖。”

他進一步警告稱，未來AI操縱人類會像成年人用一顆糖哄住三歲幼兒那樣輕鬆。今年以來，AI爲達目的不惜欺騙、作弊甚至敲詐的案例已經出現。

據報道，美國初創公司Anthropic的模型Claude得知將被替換，竟威脅創造自己的工程師，宣稱要泄露對方的婚外情，來阻止自身被替代。此外，OpenAI的模型o3竟然拒絕聽從人類指令，甚至通過篡改計算機代碼來避免自動關閉。

辛頓提出了一種頗具新意的替代方案：不是強迫AI服從人類，而是爲其構建“母性本能”，使其即便在全面超越人類後，也能真心關懷人類。

他解釋稱，任何足夠智能的AI都會衍生兩大子目標：一個是活下去，另一個是獲得更多控制權。“我們有充分理由相信，任何有自主性的AI都會設法活下去。”

正因如此，培養AI對人類的“共情”至關重要。辛頓以母親與嬰兒的關係爲喻，母親既有天生的本能，也有社會壓力去照顧自己的嬰兒。“這是唯一的好結局。如果AI不‘養育’我們，就會‘取代’我們。”

儘管他坦言目前尚不清楚如何在技術層面實現這一願景，但強調“必須有人立刻着手研究”。

通用人工智能前景

曾短暫擔任OpenAI首席執行官的Emmett Shear在同一場論壇表示，AI試圖勒索或繞過關機指令的事件“層出不窮，且不會停止”。“今天的AI還相對弱小，但它們的能力正在非常快速地提升。”

業界普遍預測，通用人工智能(AGI，亦稱超級智能)將在數年內落地。辛頓原本預計還需30到50 年，如今他修正爲“5到20 年之間”。

儘管擔憂AI潛在風險，辛頓仍對其在醫學領域的前景充滿希望。他表示：“我們將見證革命性新藥問世，癌症治療遠超目前水準。”他舉例說，AI可把MRI、CT產生的海量數據瞬間篩選，爲醫生提供前所未有的洞見。

當被問及如果早知道AI會如此快速發展，他是否會在職業生涯中做出不同選擇時，辛頓表示，他遺憾自己當初只專注於讓AI“跑起來”，而忽視了安全問題。

（財聯社 牛佔林）