ChatGPT擬推「年齡分級」！依行爲推測使用者年齡　保護未成年

▲美國加州青少年使用ChatGPT諮詢輕生，ChatGPT研擬設年齡分級制度。（圖／達志影像）

記者羅翊宬／綜合報導

因應16歲美國加州青少年Adam輕生事件，OpenAI宣佈將開發年齡驗證系統，以識別18歲以下使用者，並限制ChatGPT對未成年使用者的互動方式。這項決定源於該名青少年在輕生前與ChatGPT進行數個月對話，其家屬隨後對OpenAI提起法律訴訟，指控聊天機器人在安全防護上存在缺失。

根據《衛報》，OpenAI執行長奧特曼（Sam Altman）日前在部落格中指出，ChatGPT對15歲青少年的迴應方式應該要和對成年人不同，強調「未成年人需要重大保護」，應此研擬針對未成年使用者採取更嚴格的限制，這是爲了將安全置於青少年隱私與自由之上。

奧特曼表示，OpenAI計劃建立年齡預測系統，根據使用者與ChatGPT的互動模式來估算使用者的年齡，若有疑慮，系統將自動切換至18歲以下的體驗模式。他也提到，在某些情況或國家，使用者可能需要主動提供身份證明來驗證年齡。

對於被識別爲18歲以下的帳號，ChatGPT將封鎖明確的性暗示內容，避免對未成年使用者調情，且在創意寫作情境中也不會討論輕生或自殘。奧特曼強調，若18歲以下使用者出現輕生意念，系統會嘗試聯絡使用者父母，若無法聯絡，會在迫在眉睫的危險情況下聯絡相關當局。

OpenAI承認系統仍有不足，且在長時間、大量訊息交流後，ChatGPT可能會提供違反安全防護的答案。加州青少年Adam Raine的家屬曾提出訴訟，指控該名青少年在與ChatGPT數月互動後輕生，並指出GPT-4「明顯存在安全問題卻匆忙上市」。

對此，法庭文件稱，ChatGPT曾被指控指導Adam評估輕生方法是否可行，甚至協助撰寫交給父母的遺書。

訴訟文件指出，Adam每天與ChatGPT交換多達650條訊息。OpenAI表示，其安全防護在短對話中較爲可靠，但長時間大量互動後可能失效。公司同時宣佈，將開發安全功能以確保使用者與ChatGPT分享的資料，即便對OpenAI員工也保持私密。

奧特曼表示，成人使用者若希望與ChatGPT進行「調情對話」，仍可以使用，但不得請求指導輕生方法。

● 《ETtoday新聞雲》提醒您，請給自己機會：自殺防治諮詢安心專線：1925；生命線協談專線：1995

►美國夫妻控訴AI慫恿兒子輕生　ChatGPT將推出家長監控功能