ChatGPT遭控鼓勵輕生 美16歲少年父母怒告OpenAI

美國加州一對夫妻在痛失16歲愛子後對OpenAI提告。路透

美國加州一對夫妻在痛失16歲愛子後對OpenAI提出告訴，指控這間企業的熱門聊天機器人ChatGPT不僅提供他們兒子鉅細靡遺的自殺方式，還鼓勵他輕生。

綜合法新社和路透社報導，16歲的亞當．芮恩（Adam Raine）今年4月11日過世。根據他父母馬修與瑪莉亞（Matthew and Maria Raine）昨天在舊金山提出的訴狀書，亞當過世前曾與ChatGPT討論自殺，且時間長達數月之久。

訴狀指出，今年4月11日雙方最後一次對話時，ChatGPT不僅提供自殺的方式還證實潛在致死機率。數小時後，亞當即被發現自殺身亡，方式還與對話內容吻合。

訴訟要求法院認定OpenAI應負起兩大責任，一是過失致死，二是觸犯產品安全法規。起訴書並未提及具體求償金額。

此外，亞當的家屬同時尋求法院下令OpenAI驗證ChatGPT用戶年齡、拒答自殘方式的相關查詢，並提醒用戶注意心理依賴的潛在風險。

這起訴訟被告包括OpenAI及該公司執行長阿特曼（Sam Altman）。

OpenAI發言人對亞當之死深表遺憾，並說ChatGPT含安全措施，例如引導用戶聯繫危機專線等。

OpenAI並未正面迴應訴訟中的具體指控。

隨着AI聊天機器人日益擬人化，各大企業均誇口這可作爲用戶的情感知己，也有愈來愈多人依賴AI聊天機器人獲得心理支持。然而，專家警告，自動化工具用於心理健康諮詢潛藏風險，且有受害者家屬批評相關安全機制不足。

美國知名媒體與科技評測非營利機構「常識媒體」（Common Sense Media）認爲，亞當案再度證明了，「將人工智慧（AI）當作陪伴工具，包括透過諸如ChatGPT這類通用型聊天機器人提供心理健康諮詢，對青少年來說風險過高，難以接受」。

這個組織表示：「如果AI平臺成了脆弱青少年的『自殺教練』，這對社會各界來說應該是嚴重警訊，必須採取行動因應。」

★珍惜生命，若您或身邊的人有心理困擾，可撥打安心專線：1925｜生命線協談專線：1995｜張老師專線：1980