現身上海WAIC 「AI教父」辛頓專題演講：人類沒法擺脫AI、只能馴服

AI教父辛頓出席上海2025世界人工智慧大會指人類對AI沒有擺脫這一選擇，但應該找到馴服辦法。（圖：shutterstock／達志）

澎湃新聞報導， 2025世界人工智慧大會（WAIC）26日在上海正式開幕。諾貝爾獎、圖靈獎雙料得主、「AI教父」辛頓（Geoffrey Hinton）發表主題演講再談AI（人工智慧）安全指出，人類沒有擺脫AI這一選擇，但應該找到馴服辦法。

辛頓表示，人類理解語言的方式實際上很像大語言模型，因此人類實際上很像大語言模型，也會產生幻覺，經常編造東西，特別是試圖回憶很久以前的事情。但大語言模型與人類非常不同，且優於人類的是，電腦科學基本原則是，應將軟體與硬體分開，這一點可讓人在不同硬體運行相同程式，使得電腦科學能夠獨立於電氣工程領域，如做到這點，那程式包含的知識就是「不朽」。

辛頓解釋：「如果能把程式存在某處，或能把神經網絡的權重存儲在某處，那麼現在就可銷燬運行神經網絡的所有硬體。只要你有權重存儲在某處，現在就可建造新硬體，並因計算數位化，可在新硬體上運行完全相同計算。所以在這個意義上，數位電腦的程式是『不朽的』。」

辛頓擔憂，「因爲幾乎所有專家都相信將製造出比我們更聰明的AI。我們如此習慣於作爲頂尖智慧，以至於很多人難以想像一個AI比我們更聰明的世界會是什麼樣子……」辛頓表示，想知道非頂級智能體的感受？不妨問問雞的生存體驗。

辛頓認爲，我們正在創造AI智慧體是因爲它們更擅長完成任務，這些AI智慧體已具備創造自己子目標能力。而一旦擁有創造子目標能力，智慧體就會想做兩件事：一是生存，僅僅是爲了能夠實現我們賦予它們的目標；二是更多的控制權，也僅僅是爲了能夠實現我們賦予它們的目標。

因此，人類將會擁有想要生存和更多控制權的智慧體，「而且無法簡單地關閉它們，它們會發現操縱使用它們的人非常容易，我們將像三歲小孩，而它們將像成年人，所以我認爲那種當它們比我們更聰明時，我們就能讓某人把它們關掉的想法不切實際，它們將能夠操縱我們，並說服那個應該關掉它們的人不要那麼做」。

辛頓將人類目前處境比作養小老虎當寵物，小老虎非常可愛，能成爲很好的寵物，但需要確保當它長大後它不想吃了你。「一般來說，養小老虎當寵物是個壞主意，有兩個選擇：想辦法訓練牠永遠不想吃了你，或擺脫牠。」辛頓表示，對於AI，我們沒有擺脫它的選項，AI對醫療保健、教育、氣候變化、新材料等太多事情都非常有用，能爲幾乎所有行業提供幫助並使人類更具生產力。辛頓強調，如果人類想要生存，必須找到辦法訓練AI，不要讓AI消滅人類。

辛頓指出，目前沒有一個國家希望AI接管，每個國家都希望人類繼續保持掌控權，如果任何一個國家找到防止AI接管的方法，他們會非常樂意告訴所有其他國家。因此，他建議建立一個由AI安全研究所和協會組成的國際共同體，致力於研發訓練AI向善技術，實現訓練AI向善所需技術與訓練AI變得更聰明技術，在某種程度上是分離的，讓真正聰明的AI不想接管世界，即使它比大多數人聰明得多，也非常樂意處於人類的輔助角色。

「我們目前根本不知道如何做到這一點，長遠來看，這是人類面臨的最重要的問題。好消息是，這是一個所有國家都應該能夠合作解決的問題。」辛頓最後說。