AI具備“意識”雛形 未來會掌控世界嗎？

07:03

就在本屆世界人工智能大會開幕前3天，特朗普正式發佈《美國AI行動計劃》，這份長達28頁、涉及90多項具體行政指令的AI施政方案，不僅改變了拜登時期的強監管模式，通過放鬆監管加速AI創新、加快美國本土AI基建，最後一章更直接點明：要向全球輸出美國的軟硬件標準，做世界AI霸主。

正正經經，政經金觀察！

本週，2025世界人工智能大會在上海舉行。今年的大會上，人工智能大模型、人形機器人依舊是主角，不過對於AI是否會失控、甚至反噬世界的擔憂也明顯增加。當AI超越人類，我們該怎麼辦？

展覽現場，被稱爲人工智能“新物種”的AI智能體展現出的強大的能力，不僅能吟詩作畫，AI智能體展現出的執行多任務和推理的複雜任務解決能力，讓人印象深刻。

國內“AI六小龍”之一的階躍星辰創始人、首席執行官姜大昕介紹：“將來的智能體可以總結爲12個字，總在場、能做事、有記憶、能進化，它可以一直伴隨着你，能夠看到你所看到的，能夠聽到你所聽到的，還能自我進化，更加適應你，很像電影《蜘蛛俠》裡的賈維斯，或者電影《她》裡面的薩曼莎。”

7月，OpenAI官宣發佈迄今爲止最強的“AI智能體”，從寫代碼、預訂機票、抓取數據，到跨軟件多輪自動化執行流程，已初具“代理人”雛形。

同月，馬斯克也發佈了號稱“全球最強大的AI模型”Grok 4，在包含2500個專家級問題、涵蓋上百個學科，被稱爲“人類最後的考試”（HLE）中，Grok 4在不用工具的情況下拿下了26.9%的高分，馬斯克稱其幾乎在所有學科上都比人類研究生更聰明。

AI世界一日千里，超級智能將到來嗎？它真的會反噬世界嗎？

大會主旨演講中，首度在中國線下公開亮相的諾貝爾獎、圖靈獎獲得者辛頓博士，提出了一個尖銳的比喻，當前，人類與AI的關係，就像飼養了一隻老虎幼崽，可愛卻也可能致命。人類只有兩個選擇，要麼馴服它，要麼消滅它。不過，由於AI已經證明能大幅提升醫療、教育、氣象預測等工作效率，消除AI已幾乎不可能，即便有國家想消除，其他國家也不會認同。因此人類必須找到辦法馴服AI。

“我的觀點是，當今的多模態聊天機器人已經具有意識，所以，各國可以分享讓它善良的技術，即使它們不願意分享讓它聰明的技術。”辛頓說。

即便是馬斯克發佈的號稱“全球最強”的AI模型GROK 4，也由於讚美希特勒、反猶等言論引發巨大爭議，被批評“不負責任、充滿危險”；再比如，近些年每每提到AI，常有人擔心，AI和機器人會不會“搶”走人類的工作、加劇不平等？

在我看來，這都是人工智能治理要去解決的問題。作爲生成式人工智能領域的權威專家，香港科技大學首席副校長、香港生成式人工智能研發中心主任郭毅可告訴我，人工智能的治理需要技術和規則並重，“讓人工智能有能力、有導向性的學習，它懂得什麼叫好、什麼叫壞，走向善道路。AGI L1（通用人工智能級別1）、AGI L2（通用人工智能級別2），就跟智能駕駛一樣，這可以定義清楚，一步步走，這可能又是治理上面很重要的問題。”

要聰明、更要善良，AI的發展需要全球協作，共同尋求對策。然而已經站在“懸崖邊”的人類，似乎還沒有真正達成共識。

剛發佈的《美國AI行動計劃》原本是美國發展AI產業的戰略規劃，卻充滿了對抗、限制和打壓中國的地緣政治意圖。我注意到，該計劃在第三支柱部分明確指出“在國際治理機構中對抗中國影響力”，進一步收緊人工智能芯片對華出口管制。

亮相今年大會爐邊對話的谷歌公司前首席執行官、同時也是美國前國務卿基辛格的學生埃裡克•施密特坦言，基辛格在人生最後的15年裡，密切關注着AI迅猛發展的技術浪潮，他認爲這將是人類共同面對的巨大挑戰，因此迫切需要全球的溝通協作，共同維護人類對技術的控制權。

連續舉辦的世界人工智能大會，中國正是爲全球提供了一個平臺，不同國家、不同膚色的人羣都可以一起坐下來談，探討一個各國都能接受、真正可行的人工智能的治理規則和方案，讓人工智能的技術能在更多國家普惠應用。

從發佈多災種早期預警服務中國方案“媽祖”，到應對緬甸7.9級地震災後救援，中國人工智能團隊僅用7小時開發出中緬英三語互譯系統等，中國向世界分享人工智能技術和經驗。

尼泊爾通訊與信息技術部專家夏力格·帕拉朱裡表示：“作爲一個多山的國家，通過與中國的AI合作，我們能夠跨越喜馬拉雅山脈提供各類智能服務。”

匈牙利創新署首席運營官羅伯特•索莫吉表示：“思考人工智能政策、倫理、規則及標準化的合作至關重要，人工智能不能被侷限在單一國家，它是開放且跨國界的。”

回到片頭提出的問題，當AI不斷進化，它真的會最終反噬人類嗎？

正如辛頓在演講的最後所說，沒有一個國家希望AI統治世界，每個國家都希望人類能夠掌控世界。面對超級智能，全球需要基於這些共識，研究如何訓練超級AI向善，共享安全測試數據，並建立持續對話機制，讓AI輔助人類，而不是最終接管人類。

你們覺得呢？歡迎評論區留言。

看看新聞記者: 金普慶

編輯: 吳浩然

攝像: 吳浩然

責編: 王勇