AGI這個詞“過時”了？硅谷大佬開始重金押注“超級智能”

7月4日消息，據彭博社報道，曾幾何時，全球科技領域的頂尖專家們競相追求的目標是打造“通用人工智能”（AGI），也就是在大多數智力任務上能媲美人類的AI。

但如今，行業領袖們正悄然將目光投向一個更爲雄心勃勃的新目標：“超級智能”（Superintelligence）。按照定義，這種AI不僅能力與大多數人水平相當，甚至在所有任務上都比所有人類更出色。

儘管“超級智能”在AI領域並非全新概念，已存在了數十年之久，但近期它在AI領軍人物中迅速流行起來，被視爲一個更可及的目標。

本週早些時候，Meta首席執行官馬克·扎克伯格（Mark Zuckerberg）將“超級智能”推向主流視野，並把它列爲其贏得AI競賽的戰略核心。這是繼“元宇宙”之後，扎克伯格又一次重大轉型。他豪擲數十億美元開發先進AI產品，組建致力於實現“超級智能”的新團隊，並開出數百萬美元的高薪，吸引頂尖研究員加入這項宏偉使命。

投身於“超級智能”這場豪賭的不止扎克伯格。被譽爲同代最傑出的AI研究員伊爾亞·蘇茨克維爾（Ilya Sutskever）離開OpenAI後，便將自己的新公司命名爲“安全超級智能公司”（Safe Superintelligence）。

OpenAI首席執行官薩姆·奧特曼（Sam Altman）也開始頻頻提及“超級智能”。微軟最近也將其在醫療診斷領域的最新突破描述爲“邁向醫療超級智能的一步”。

被譽爲“AI教父”之一的蒙特利爾大學計算機科學教授約書亞·本吉奧（Yoshua Bengio）表示，儘管企業追捧AI新熱詞不乏商業動機，但人類正邁向“超級智能”是一個“科學事實”。

本吉奧說：“我們已經見證AI系統能用超過200種語言相互交流，能通過所有學科的博士資格考試。”他認爲，雖然AI目前還缺乏長期規劃和戰略能力，但“差距正在以指數級的速度縮小，這已成爲趨勢”。

“超級智能”將帶來激動人心的商業機遇，但如果一切按計劃發展，隨之而來的也有嚴峻風險。

“超級智能的問題在於，掌控它的人將擁有凌駕於他人之上的巨大力量。”本吉奧說道。他新成立的非營利研究實驗室LawZero旨在開發一種比當前主流模型更安全的AI。“而且控制它的可能並非人類，”他補充道，“也可能是按自身意志行事的超級智能體。”

儘管如此，AI業內許多人士仍質疑“超級智能”這一術語定義模糊且有過度炒作之嫌。

首先，“超級智能”與AGI一樣定義不清：AI究竟需要在特定任務上達到何種能力纔算跨過從“通用”到“超級”的門檻？（是達到大學本科水平？博士水平？還是諾貝爾獎得主水平？）

更模糊的是我們何時能實現“超級智能”。畢竟，業界連實現AGI都未達成明確共識。奧特曼曾表示超級智能“近在咫尺”；而Anthropic公司首席執行官達里奧·阿莫迪（Dario Amodei）則預測，在多數領域超越諾貝爾獎得主的AI最快可能在2026或2027年出現。

當然，這種預測也可能過於樂觀了。人類實現所謂“超級智能”可能還需要幾十年，甚至永遠無法企及。

去年離開OpenAI的AI政策研究員邁爾斯·布倫達（Miles Brundage）認爲，“超級智能”一詞的興起背後有多種原因。他表示，一種解釋是所謂的“AGI通脹”——鑑於許多人感覺AGI比以往更近了，轉向更新的術語可能是一次“合理的迭代”。

布倫達還補充道，“超級智能”也可以被看作是“對‘AGI’一詞含義過於寬泛的迴應”，在某些情況下，人們指的是“這些定義中最高端的那一類”。

“超級智能”最近風靡業界的另一個原因或許在於，一個比AGI更遠大的目標（外加鉅額投資）有助於吸引稀缺的頂尖AI研究人才，因爲這羣人只想攻克最宏大的技術難題。

“定義這些詞彙時，評判的標準總是在變，”Menlo Ventures合夥人迪迪·達斯（Deedy Das）說。他表示自己更傾向於用“經濟圖靈測試”來考量：僱傭人類與AI完成相同工作，若產出無顯著差異，“這算超級智能嗎？我不知道，但這似乎是個合理且能被客觀定義的目標。”

目前無可爭議的是，那些資金最雄厚、技術最頂尖的公司正在朝着比AGI更誘人、也更令人恐懼的目標邁進。

但對普羅大衆而言，生活一切如常。正如奧特曼最近所說：“人類即將創造出數字超級智能，但到目前爲止，一切遠沒有想象中那麼詭異。”（辰辰）