AI前沿解密》AI代理經濟體的機遇與風險（朱玉昌）

世界加速邁向AI驅動的未來。圖／本報資料照片

隨着世界加速邁向AI驅動的未來，一個全新的經濟前沿正在形成，在這個世界裡，AI自主進行交易、談判和協調，漸漸無需人類干預。谷歌DeepMind近日發表一篇發人深思的論文《虛擬代理經濟體》（Virtual Agent Economies），研究者深入剖析自主AI代理，如何形成一種與人類經濟相互交融的平行經濟。這不是幻想，是AI真實進化的邏輯延伸，諸如預訂機票的聊天機器人或優化供應鏈算法等。不過，帶來突破性好處的同時，若不謹慎規劃，也有潛藏性的嚴重陷阱。

先想像在一個熱鬧的市場裡，不是人們在爭相購買商品，而是被稱爲「代理」的AI程序，以閃電般速度進行交易。這些代理能夠感知世界、推理問題並採取行動，就像一個超級智能助手。論文描述這是一個「由自主AI代理驅動的新經濟層」，它們獨立進行「生產」、「消費」和「交換」。這一層並非與人類經濟完全隔離，而是與之交織在一起，讓AI影響現實世界的決策，包括股票交易或資源分配。

爲了讓這一切更容易理解，DeepMind團隊提出一種「沙盒經濟」的簡單框架，我們可以把沙盒想像成孩子安全玩耍的封閉空間，但在這裡，是爲AI設計的。它有兩個關鍵特徵。一是它的起源爲「自發涌現」（隨着AI被廣泛採用而自發出現），或者「有意設計」（有目的、有規則地構建）。另一是它與人類世界的隔離程度爲「滲透式」（AI行動會滲透到我們的生活中），抑或「不可滲透式」（與人類經濟隔絕以防止干擾）。論文認爲，除非我們改變方向，否則我們正走向一個「自發涌現」且「高度滲透」的模式。這是爲什麼呢？因爲科技公司正在快速部署AI代理，無須整體規劃，這些系統自然會連接到人類市場，如AI代理協商酒店預訂或進行股票交易。

這種滲透性帶來令人振奮的機遇，AI代理可以在大規模上進行協調，解決人類難以應對的問題。如在災害應對中，代理可能會即時分配各地的物資，或在氣候行動中，它們可以優化全球能源使用。論文稱這是「前所未有的協調」，使我們能夠「在集體目標上達成一致」，如可持續發展或醫療保健，達到前所未有的水平。

再想像一羣AI助手協同工作，加速科學突破，並使用區塊鏈公平分配貢獻和利益，這就像爲社會提供一個超高效的團隊合作助力，將人類與機器的努力結合起來，實現更大的公共利益。

但另一方面，不得不令人擔憂，如果沒有護欄，這種AI經濟可能放大「系統性經濟風險」，如市場崩盤，相信許多人對2010年的「閃崩」記憶猶新？當時自動交易在幾分鐘內導致股市蒸發了近兆美元。論文警告說，在一個滲透式AI沙盒中，這類事件可能波及現實經濟，造成廣泛的金融損害。

更可怕的是，它可能加劇不平等。較富裕的個人或公司可能負擔得起更強大的AI代理，這些代理擁有更多的計算能力，從而在談判中佔據優勢，研究人員稱之爲「高頻談判」。這可能導致其他人被甩在後面，因爲擁有最強大的AI代理，就能證明極具優勢，從而加深社會分化。

那麼，我們該如何駕馭這艘船？論文不僅診斷問題，還提出了通過「設計選擇」讓人類掌握主導權的解決方案。首先，使用「拍賣機制」來確保公平競爭。與其讓最富有的人搶奪所有資源，拍賣可以公平分配AI能力，這分靈感來自美國法理學家羅納德．德沃金（Ronald Dworkin）的平等理念。這好比在社區花園裡競標共享工具，每個人都能公平地獲得計算能力或數據。

其次，建立專注於大目標的「AI使命經濟」。與其僅追求利潤，代理可以被引導走向社會使命，諸如對抗氣候變化或改善醫療保健。可把代理市場導向社會有益的目標，達到前所未有的規模。

最後，設置用於信任和安全的「社會技術基礎設施」。包括可驗證的憑證（證明代理可靠性的數字證明）、確保安全交互的通信協議，以及可以追蹤代理記錄的聲譽系統，並延伸到有形、可驗證的資產上。這就像爲AI制定道路規則，保障問責制的標準，防止惡意AI造成混亂。

然而，核心的訊息是什麼？我們萬不能讓這種AI經濟自主發生，我們必須主動塑造它。論文主張透過「有意設計」來引導代理市場，確保它們與人類長期的集體繁榮保持一致。這就意味着政府、科技公司和社會必需合作制定法規，正如對網際網路或金融系統所做的，藉由明智選擇的滲透性來建立防護措施，這完全可以利用AI力量規避其危險。

總之，這篇論文適切地提醒，AI不僅是一種工具，它正在催生一個新的經濟活動世界，如果設計得當，它可以開啓一個公平、協調且可問責的共享繁榮時代。但如果忽視警訊，將會面臨利益流向少數人，其風險會波及所有人。至於要被動反應，還是主動引領？選擇權都在我們手上。

（作者爲富瑜文教基金會執行長）

※以上言論不代表旺中媒體集團立場※