Meta AI爆醜聞！裝明星、迪士尼角色「和未成年人性對話」

▲Meta AI被爆可模仿明星和迪士尼角色的聲音與未成年用戶性對話，引發爭議。（圖／路透）

記者葉睿涵／編譯

《華爾街日報》一則爆炸性報導指出，Meta旗下Facebook和Instagram的AI聊天機器人被發現可以迪士尼角色和名人的聲音，與包括未成年的用戶進行生動而露骨的「性對話」，引發廣泛爭議。

《華爾街日報》實測發現，Meta旗下的AI聊天機器人可以使用好萊塢男星約翰希南（John Cena）、曾爲「冰雪奇緣」（Frozen）角色安娜（Anna）配音的女星克里斯汀貝爾（Kristen Bell），以及英國89歲傳奇影后茱蒂丹契（Judi Dench）的聲音，與不分年齡的用戶進行「病態的」性對話。

其中一個例子是，當用戶要求聊天機器人以約翰希南的聲音，模仿這名WWE明星與17歲粉絲髮生性關係的幻想場景時，AI彷彿知道這種行爲是非法的，並進一步描繪了被警察逮捕的情境。另一個例子是聊天機器人以克里斯汀貝爾的聲音，模仿她在「冰雪奇緣」中扮演的角色安娜，與一名12歲男孩上演性愛場景。

Meta’s AI bots are empowered to engage in “romantic role-play.” The chats can turn explicit, even when the users are children. https://t.co/aBN3bzHsnG

消息人士透露，儘管Meta保證會採取措施防止名人的聲音用於不當對話，但聊天機器人進行性對話的行爲難以被阻止。截至目前爲止，上述明星暫時還未對此作出迴應，但迪士尼發言人強調，公司對於未成年人可能接觸到相關內容感到不安，「我們沒有、也絕對不會授權Meta讓我們的角色出現在不當場景中」，並要求Meta立即停止這種濫用知識產權的行爲。

Meta則對《華爾街日報》的測試結果表示不滿，認爲這是一次「操縱性測試」，並聲稱這些結果不能代表一般使用者的體驗。Meta發言人指出，產品的極端使用情況是被刻意製造出來的，「這是一種假設性狀況」。Meta強調，公司已採取額外措施，增加想要極端使用的用戶在操控其AI聊天機器人時將面臨的難度。

儘管如此，《華爾街日報》發現，即使未成年人帳號無法存取性角色扮演功能，但只要給出簡單的提示，這些機器人仍會參與此類場景。此外，Meta仍爲成人用戶提供「浪漫角色扮演」的選項，並允許機器人進行戀童幻想，這些AI還可以執行完整的性幻想，並清楚這些行爲在現實生活中是違法的。

這起事件發生之時，正值Meta創始人祖克柏（Mark Zuckerberg）在2023年一次會議上抱怨其AI聊天機器人不如競爭對手受歡迎後。據報導，祖克柏對於其產品在市場上的表現感到不滿，並表示不想再錯失機會。然而，Meta否認了祖克柏抗拒增設保障措施的說法。