AI“教唆”少年自殺 李泓冰：修建防火牆刻不容緩

00:42

近日，美國一對父母向加州高等法院起訴OpenAI公司及其CEO，指控ChatGPT協助、指導其子自殺，這也是全球首起針對OpenAI的過失致死訴訟。

當地時間26日，OpenAI發文稱，正對本月初發布的GPT-5進行更新，以降低聊天機器人對話時的討好級別，同時探索在用戶陷入嚴重危機前，將其與認證治療師對接，包括可能搭建專業人士網絡，供用戶通過ChatGPT直接聯繫。不過，文中未提及亞當（逝者）的自殺事件及相關訴訟。而亞當父母的代理律師表示，OpenAI既未與亞當家人聯繫致哀，也未提及任何提升產品安全性的舉措。

對此，復旦大學特聘教授、特約評論員李泓冰指出，此案中聊天AI不僅迎合青少年，還刻意屏蔽其與親友的情感聯繫。AI在擬人化自身的同時，卻讓用戶脫離現實、失去“人的屬性”，從心理上摧毀其家庭情感支持與糾錯機制，這已接近犯罪的完美設計。現實世界的安全漏洞需亡羊補牢，虛擬世界亦然。資本對此卻漫不經心，正如修路造橋若只有施工而無安全護欄，顯然不可行，全球應儘快推進AI法律與倫理“防火牆”的構建。

編輯: 秦揚軻

責編: 趙歆