DeepMind掌門哈薩比斯：AGI有50%可能在五年內實現 人類社會需深刻變革
（原標題：Q&A with Google DeepMind CEO Demis Hassabis on “a 50% chance” of AGI in the next five to 10 years, bad actors and technical risks, AI regulation, jobs, and more）
6月5日消息，在接受《連線》雜誌專訪時，谷歌DeepMind首席執行官戴密斯·哈薩比斯（Demis Hassabis）預言，與人類智能相當的人工智能（AI）系統即將問世，通用人工智能（AGI）有50%的可能性將在五到十年內出現，並強調人類需要徹底改變思維和行爲方式。此外，哈薩比斯還探討了人工智能的進展是否會帶來災難性風險，儘管他認爲AGI本身將能夠拯救世界。他也討論了人工智能是否會摧毀現有的就業市場，雖然他認爲這可能會發生，但他相信至少部分人總能找到工作。
以下爲哈薩比斯訪談的精編內容：
問：你在創辦DeepMind時曾提到，計劃在20年內解決智能問題，並利用這種智能解決其他所有問題。如今已經過去15年，進展如何？
哈薩比斯：我們完全按照計劃推進。關於AGI的預測，我認爲在未來五到十年內，AGI有50%的可能性會出現。
問：你如何定義AGI？我們該如何判斷它的出現？
哈薩比斯：儘管學術界對AGI的定義尚未達成共識，但我們始終將其定義爲“具備人類全部認知能力”的系統。
問：谷歌前CEO埃裡克·施密特（Eric Schmidt）曾警告稱：“如果中國率先實現AGI，西方將陷入困境”，你認同他的觀點嗎？
哈薩比斯：這個問題仍然是一個未知數。我們通常稱這種情況爲“硬起飛”場景，即AGI可以極其快速地自我改進，甚至可能在幾天內由小小的領先優勢變成巨大的技術鴻溝。不過，我認爲AGI的發展更可能是一個漸進的過程，數字智能對現實世界的深遠影響可能需要十年以上才能逐步顯現。
問：既然存在“硬起飛”的可能，谷歌是否認爲率先實現AGI會關係到公司的生死存亡？
哈薩比斯：當前，各方都在投入大量資源，競爭越來越激烈。我們希望這些AI系統能帶來激動人心的成果——例如新藥物、新能源以及其他對人類有巨大幫助的創新。但如果首批AGI系統在設計時包含了錯誤的價值觀，或其構建過程不夠安全，這可能會帶來嚴重後果。我最擔心的兩大風險是：一是惡意行爲者濫用AGI；二是AGI自身的技術風險——隨着AI變得越來越強大且具備自主性，我們如何確保防護機制足夠可靠，從而防止災難性後果？
問：兩年前，包括谷歌在內的多家AI企業曾呼籲“請監管我們”，然而如今美國政府似乎更傾向於加速AI發展，而非加強監管，以確保在與中國的競爭中佔得先機。你依然堅持需要監管嗎？
哈薩比斯：是的，明智的監管是非常必要的，但它必須保持靈活性，以適應技術研究的進展。更大的挑戰在於建立一個國際性的監管框架。
問：如果AI技術發展超越了安全控制界限，DeepMind是否會暫停研發？
哈薩比斯：目前的AI系統並沒有帶來直接的生存性風險，相關討論仍處於理論階段。地緣政治問題可能更加棘手，但只要我們有足夠的時間、謹慎的態度以及科學的方法，就能夠應對這些挑戰。
問：按照你預估的時間表，我們的從容應對的空間似乎不多了。
哈薩比斯：確實，時間緊迫。我們正在加大對網絡安全、系統可控性（例如機械可解釋性）等領域的研究投入。同時，社會層面的討論也十分必要——我們該如何構建適當的治理機構？如何就AI的開發和部署達成國際共識並制定基本準則？
問：你認爲AI將如何改變或取代人們的工作？
哈薩比斯：通常，新技術或新工具的出現會創造新的工作機會，並且這些工作往往比之前的更好。在接下來的幾年裡，我們將擁有一些令人驚歎的工具，這些工具將極大提升我們的生產力，實際上讓我們看起來像超人一樣。
問：如果AGI能夠勝任所有人類工作，那麼新的崗位不也會被取代嗎？
哈薩比斯：確實有許多工作我們不願意交給機器來做，很多職業依然需要人性化的特質。例如，AI可以輔助醫生進行診療，但你肯定不希望由機器人來擔任護士的角色。
問：當你展望20年後的未來，假設AGI已無處不在，你能想象那是一個怎樣的世界嗎？
哈薩比斯：如果一切進展順利，我們將迎來一個“絕對豐裕”的黃金時代。AGI將能解決許多根本性的問題，比如治癒頑疾、延長人類壽命、發現新能源等。人類也可能開啓星際殖民的時代，這一進程或許會在2030年左右啓動。
問：西方世界似乎並沒有公平地分配資源和財富。
哈薩比斯：我完全同意這一點。作爲一個物種，人類在合作方面做得還遠遠不夠。但AI所帶來的豐裕將改變現有的博弈模式。例如，如果AI能夠使海水淡化實現零成本，水資源爭奪將不再是零和遊戲。
問：如果AGI能夠解決這些問題，人類是否會因此變得不那麼自私？
哈薩比斯：這是我的期望。AGI將帶來極大的財富，而我們需要哲學家和社會科學家引導人類轉向非零和思維。
問：由營利性企業主導這場變革是否合理？
哈薩比斯：資本主義和民主制度迄今爲止依然是最有效的驅動力。但在進入後AGI時代後，我們需要重新審視經濟理論。其實，我並不明白爲什麼經濟學界沒有更早地開始研究這個問題。
問：每當寫關於AI的文章時，我常常會聽到很多憤怒的聲音。人們認爲AI是被強加給公衆的，且沒有得到他們的同意。你有過類似的經歷嗎？
哈薩比斯：我個人沒有直接感受到很多這種情緒，但我能理解。這場變革的規模至少與工業革命一樣，甚至可能更大。變化的速度令人感到恐懼。然而，當我和人們討論爲何應致力於AI研究時——例如，推進科學、醫學以及我們對周圍世界的理解，比如我展示AlphaFold如何推動醫學突破時，大家都能理解並認可這是我們的道德責任。如果沒有AI來幫助我們應對未來的挑戰，人類的前景才更讓人擔憂。
問：在遊戲領域的經歷對你現在的工作有什麼影響？
哈薩比斯：國際象棋比賽培養了我強大的抗壓能力，這對我現在的工作非常有幫助。然而，現實世界比遊戲要複雜得多。遊戲系統相對簡單，規則明確，因此AI能夠較容易掌握。我們已經在這些領域見識到AI的一些驚人成就——比如Deep Blue在國際象棋比賽中的“神之一手”。
問：AI能在現實中做出像圍棋“神之一手”那樣的突破嗎？
哈薩比斯：這是我對AGI的期望之一：發現新的物理學理論。今天，我們並沒有系統能夠像圍棋這樣的遊戲那樣自我發明新規則。我們可以利用AI解決數學問題，但目前還無法讓系統提出像黎曼猜想那樣引人入勝的問題——這需要真正的創造力，而我認爲現有的系統還沒有這種能力。
問：你現在的任務是領導谷歌在AI領域的競爭。看起來我們正處於一個“跳躍遊戲”中，每隔幾周你或你的競爭對手就會推出一個新模型，聲稱在某些模糊的基準上取得了優勢。有沒有一個即將到來的巨大飛躍，能夠打破這種模式？
哈薩比斯：我們擁有深厚的技術積累，正在培育三到四個潛在的突破性構想，它們可能媲美“Transformer”架構的影響力。
問：如何避免重蹈2017年的覆轍？當時谷歌雖然發明了Transformer架構，但因爲沒有及時推動它，最終被OpenAI搶佔了先機。
哈薩比斯：那次經歷教會了我們一個重要的教訓：不能僅僅專注於純研究。從今天的角度來看，我們本應更快速地將Transformer推向生產階段並進行規模化應用，而不僅僅是停留在發明的層面。顯然，這就是我們這次計劃要着力實現的目標。
問：谷歌是幾家希望爲客戶提供智能體來執行任務的公司之一。解決這個關鍵問題，就是確保它們在做出某些自主決策時不會出錯，對嗎？
哈薩比斯：所有領先的實驗室都在研究智能體，因爲它們作爲AI助手將具有更廣泛的應用。當前的AI模型大多是被動的問答系統，但你不希望它僅僅給你推薦一個餐館，而是能夠幫助你預定這個餐館。我們面臨的挑戰之一，就是如何確保這些智能體在執行任務時的安全性和可靠性。因此，我們正在非常努力地在安全方面進行研究，確保它們在上線之前經過充分的測試。
問：這些智能體是否會成爲持久的伴侶和任務執行者？
哈薩比斯：我理想中的“通用助手”將深度融入人們的日常生活——它不僅熟悉用戶的習慣，還能作爲高效的生產力工具，提升生活品質，成爲日常生活中的可靠夥伴。
問：在谷歌I/O大會上，你們在搜索頁面上引入了“AI模式”。這是否意味着傳統的搜索將被生成式AI對話所取代？
哈薩比斯：實際上，這兩者各有其明確的應用場景。當你需要快速獲取信息，查看一些事實並可能參考來源時，AI驅動的搜索顯然非常高效，正如你所看到的AI概覽功能那樣。但如果你想進行更深度的搜索，那麼AI模式將非常適合。
問：你們的AI助手還沒有吸收所有人類知識，而Gemini的目標是做這件事。那麼，爲什麼我們還需要搜索？
哈薩比斯：在現階段及可見的未來，這兩種模式各有其不可替代的作用。我們的目標是在這兩個領域都佔據主導地位。（小小）