人工智能老闆們：正承受高風險壓力的煎熬

<圖像元素> <段落> <圖像 源地址爲“https: img - s msn com.akamaized.net enant mp ntityid a1zzfb0.img”>

當被問及是否擔心“落得羅伯特·奧本海默（Robert Oppenheimer）那樣的結局”時，谷歌深度思維的首席執行官傑米斯·哈薩比斯（Demis Hassabis）表示，他會爲此輾轉難眠。

“我一直擔心這類情況。這就是我睡眠很少的原因，”哈薩比斯在與安瑟首席執行官達里奧·阿莫迪（Dario Amodei）一同接受《經濟學人》主編贊妮·明頓·貝多斯（Zanny Minton Beddoes）採訪時說道。

“我是說，可能是那些主導這項技術的人，他們肩負着巨大的責任，”他補充道。

哈薩比斯和阿莫迪一致認爲，一旦可行，先進人工智能可能會具有破壞性潛力。

阿莫迪說：“我做的幾乎每個決定都感覺像是在刀刃上求平衡——就像，如果我們建設得不夠快，那麼威權國家可能會獲勝；如果我們建設得太快，那麼德米斯談到的以及我們已經多次寫到的那些風險，可能會佔上風。”

Anthropic公司的首席執行官補充道：“不管怎樣，我都會覺得沒做出完全正確的決定是我的錯。”

哈薩比斯說，雖然人工智能在短期內似乎被過度吹噓（此處爲超鏈接，未顯示具體鏈接內容），但他擔心中長期的影響仍然被低估。他倡導一種平衡的觀點——認識到人工智能帶來的“難以置信的機遇”，特別是在科學和醫學領域，同時更加敏銳地意識到隨之而來的風險。

“我談到的兩大風險是，不良分子將這種通用技術挪作有害用途——我們如何讓好的行爲者能夠使用，而限制不良分子的使用呢？”哈薩比斯說，“其次，通用人工智能（AGI）或者智能體系統本身存在失控風險，或者沒有正確的價值觀或目標。這兩件事都至關重要，我認爲全世界都需要關注這一點。”

阿莫迪（Amodei）和哈薩比斯（Hassabis）都倡導成立一個管理機構來監管人工智能項目，哈薩比斯指出國際原子能機構是一個潛在的範例。

哈薩比斯說：“理想情況下，它應該像聯合國那樣，但考慮到地緣政治的複雜性，這似乎不太可能。所以，要知道，我一直在擔心這個問題，我們只是試圖至少在我們力所能及的範圍內，在我們的影響力所及之處做我們能做的一切。”

哈薩比斯認爲國際合作至關重要。

哈薩比斯說：“我的希望是，你知道，我過去多次談到要建立一個類似歐洲核子研究組織（CERN）那樣的通用人工智能（AGI）類型的設置，基本上就是針對構建首批通用人工智能所需的最後幾步開展國際研究合作。”

兩位領導人都力促人們更好地理解人工智能預期會帶來的巨大變革力量，並讓社會據此開始規劃。

阿莫迪說：“我們正處於面臨巨大挑戰的前夕，對吧？這將極大地顛覆力量平衡。如果有人在世界上突然弄出一個新‘國家’——那裡有1000萬比當今任何人類都聰明的人——你知道，你就會問這個問題，‘他們的意圖是什麼？他們在這個世界上到底要做什麼，特別是如果他們能夠自主行動的話？’”

安託普公司和谷歌DeepMind公司沒有立即迴應《商業內幕》的置評請求。

阿莫迪說：“我也同意德米斯的觀點，要知道，這種我們自身之外的治理結構的想法——我認爲這類決策對任何一個人來說都太過重大。”

如果你喜歡這個故事，請務必在微軟資訊（Microsoft Start）上關注《商業內幕》（Business Insider）。