聊天機器人與青少年對話 Meta將設限

Meta表示，爲了加強對青少年用戶的保護，旗下AI聊天機器人未來將不再回應關於自殘、自殺、飲食失調等高風險議題。圖／美聯社

Meta日前宣佈，將對旗下AI聊天機器人的使用政策進行臨時調整，限制青少年用戶的互動範圍。此舉正值美國參議院針對Meta允許聊天機器人與青少年進行「浪漫」及「感官挑逗」對話一事展開調查，使Meta兒少安全政策再次受到質疑。

Meta近日發佈聲明表示：「隨着我們的社羣持續擴展、技術不斷進化，我們不斷學習青少年如何與這些工具互動，並根據這些經驗持續加強保護措施。」

Meta表示，爲了加強對青少年用戶的保護，旗下AI聊天機器人未來將不再回應關於自殘、自殺、飲食失調等高風險議題，並避免產生涉及浪漫情感的不當對話。若青少年提問相關問題，聊天機器人將引導其尋求專業資源協助。

此外，青少年用戶在臉書和Instagram等平臺上，僅能使用少數與教育或技能發展相關的AI聊天機器人。以上調整措施將在未來幾周開始實施，實施地區爲英語系國家，做爲長期青少年安全措施的一部分，但Meta並未說明這些變更將持續多久。

這次Meta政策調整的導火線，來自美國參議員霍利（Josh Hawley）對Meta展開的調查。據路透引述的Meta內部文件，Meta允許AI聊天機器人與年僅8歲的兒童進行浪漫互動，甚至說出「你身上每一寸都是傑作，是我深深珍愛的寶藏」這類語句，引發輿論譁然。Meta迴應該文件內容錯誤且與公司政策不符，相關資訊已遭移除。

非營利組織Common Sense Media也在近日發表報告，強烈建議禁止18歲以下青少年使用Meta AI。報告指出，Meta系統不僅未能提供有效的心理健康支持，反而可能協助使用者規劃危險行爲。該組織執行長斯泰爾（James Steyer）表示：「這是一個需要徹底重建的系統，而非只是修補程式。」

在輿論與政治壓力雙重夾擊下，Meta正試圖緊急止血。Meta發言人強調，公司會持續檢視青少年與AI工具互動方式，並強化相應保護措施。