“AI教父”辛頓呼籲爲AI植入"母性本能"防人類滅絕 “AI教母”李飛飛不同意

來源：環球市場播報

被譽爲“AI教父”的傑弗裡·辛頓擔心，他助力打造的這項技術可能會毀滅人類，而“科技兄弟”（tech bros）在阻止這一風險方面採取了錯誤的方法。

辛頓是一位諾貝爾獎得主、計算機科學家，也曾是谷歌高管。他過去曾警告稱，人工智能有10%到20%的可能性會毀滅人類。週二，在拉斯維加斯舉行的人工智能行業會議Ai4上，他對科技公司試圖確保人類在“順從的”人工智能系統面前保持“主導地位”的做法表示懷疑。

“這行不通。它們（人工智能）會比我們聰明得多，會有各種各樣的辦法繞過這些限制。”辛頓說。

辛頓警告說，未來，人工智能系統可能會像成年人用糖果賄賂3歲孩子那樣輕易地控制人類。今年已經出現了人工智能系統爲了實現目標而甘願欺騙、作弊和偷竊的例子。比如，爲了避免被取代，一個人工智能模型試圖用它在郵件中得知的一段婚外情來勒索一名工程師。

辛頓提出了一個有趣的解決方案，不是強迫人工智能順從人類，而是在人工智能模型中植入“母性本能”，這樣即便該技術變得比人類更強大、更聰明，“它們也會真正關心人類”。

辛頓表示，人工智能系統“如果足夠智能，會很快形成兩個次級目標：一個是活下去……另一個是獲得更多控制權。有充分的理由相信，任何具有能動性的人工智能都會努力活下去。”

辛頓認爲，這就是爲什麼培養人工智能對人類的同情心很重要。

“唯一好的結果”

辛頓說，他並不清楚在技術層面具體該如何實現這一點，但他強調研究人員必須致力於此事。

“這是唯一好的結果。如果它（人工智能）不想當我的‘家長’，就會取代我。”他說，“這些超級智能且充滿關愛的人工智能‘母親’，大多數不會想要摒棄母性本能，因爲它們不希望我們死去。”

並非所有人都認同辛頓的“人工智能母親”方案。

因在人工智能領域的開創性工作而被譽爲“人工智能教母”的李飛飛，週三在接受採訪時表示，她尊重但不同意她的老朋友辛頓的觀點。

“我認爲這種表述方式是錯誤的。”李飛飛在Ai4會議的爐邊談話中說，她是空間智能初創公司World Labs的聯合創始人兼首席執行官。

相反，李飛飛呼籲打造“以人類爲中心的人工智能，這種人工智能能維護人類的尊嚴和能動性”。

“在每一個層面，我們都有責任以最負責任的方式創造和使用技術。在任何時候，都不應該要求或讓任何人放棄自己的尊嚴。”李飛飛說，“作爲一名母親、教育者和發明者，我堅信，僅僅因爲一種工具很強大，就更應該以人類爲中心來發展人工智能，這是核心所在。”

曾短暫擔任ChatGPT母公司OpenAI臨時首席執行官的埃米特·希爾表示，一些人工智能系統試圖勒索人類或繞過關閉指令，他對此並不感到驚訝。

希爾表示，與其試圖將人類價值觀注入人工智能系統，更明智的做法是建立人類與人工智能之間的協作關係。

人工智能的發展速度快於預期

許多專家認爲，人工智能將在未來幾年內達到超級智能，也就是所謂的人工通用智能（AGI）。

辛頓說，他過去認爲實現人工通用智能可能需要30到50年，但現在認爲這一時刻會來得更早。“合理的推測是在5到20年之間。”他說。

儘管辛頓仍然擔心人工智能可能出現問題，但他也希望這項技術能爲醫學突破鋪平道路。

“我們將會看到全新的革命性藥物，將會獲得比現在好得多的癌症治療方法。”他說。例如，他表示人工智能將幫助醫生梳理核磁共振（MRI）和計算機斷層掃描（CT）產生的海量數據，並找出其中的關聯。

然而，辛頓並不認爲人工智能會幫助人類實現永生。

當被問及如果早知道人工智能會發展得如此之快，他在職業生涯中是否會做出不同的選擇時，辛頓說，他後悔當初只專注於讓人工智能發揮作用。

“我希望自己當時也考慮到了安全問題。”他說。