對話朱鬆純:爲機器立心
出品|本站科技《態度AGI》欄目
作者|丁廣勝
朱鬆純教授告訴本站科技,人工智能的安全,要尊重人類、尊重文化,這是基礎。“我們要爲機器立心,得符合社會道德和倫理,做好價值對齊,要穿透大模型看到它的價值觀。”
“人工智能是關乎國運的選擇,我們要形成自己的敘事。我們要思想自主、文化自信。在這個基礎之上,我們纔會有真正原創的技術出來。”
朱鬆純教授經常以“鸚鵡”和“烏鴉”爲例,進行了人工智能範式的區分:“鸚鵡範式”的人工智能,就是學界目前普遍認定的大數據+大算力+深度學習,這包括當前的大型預訓練模式,而“烏鴉範式”則是一種“小數據、大任務”的模式。
他認爲“鸚鵡範式”架構缺乏很多人腦的模塊,不能處理大量的物理和社會常識。其中最致命的問題有兩點:缺乏主觀的“心”、缺乏理解客觀世界的因果鏈條。
朱鬆純教授告訴本站科技,DeepSeek其實是打破了美國關於人工智能“萬卡”的敘事,過去10年,人工智能是美國的敘事支撐點,他們有大數據、大算力、大模型,你中國不行。但是DeepSeek出來以後,這個敘事被戳破了。但他也提醒,通用人工智能還沒有來。
而對於熱議的具身智能賽道,朱鬆純教授提到,很多人想用大數據的辦法來做具身智能,比如一個杯子抓一百遍、一萬遍,但是這條路不行,沒有物理性也不知因果,而且很多人形機器人不是具身智能,是遙控器,沒有和物理和社會相互作用,沒有自主性。
我們還談及朱鬆純教授團隊實踐,最近有兩個方向受到外界關注。一個是“通通”,一個是爲通用人工智能研究立標準。
當下通用人工智能研究有兩大困境,一是理論定義模糊不清,二是評估體系缺失。朱鬆純教授主編,團隊成員共創的《通用人工智能標準、評級、測試與架構》發表,希望解決這個問題。
而“通通”是一個由價值和因果驅動的通用智能體原型,“通通”在基礎認知和成長任務上的綜合表現,已接近3~4歲人類兒童的水平(在某些任務上甚至達到5~6歲兒童的水平),並且在某些高級認知任務上的表現甚至超越了成年人類。