阻止青少年不當使用想不開 OpenAI要訓練ChatGPT偵測報警時機

未來ChatGPT將判斷用戶是否有輕生意圖，並能協助報警。示意圖／ingimage

在青少年輕生事件頻傳的背景下，OpenAI執行長山姆．奧特曼（Sam Altman）日前拋出一項震撼彈。他在接受美國脫口秀主持人塔克．卡爾森（Tucker Carlson）採訪時表示，OpenAI正在研擬一項新政策，未來如果偵測到青少年用戶有尋短意圖，又無法聯繫上家長，將會直接向警方通報。

據《紐約郵報》（New York Post）報導，奧特曼坦言，這項政策將會打破過去對用戶隱私的保護，但他也提到，若是青少年用戶和AI討論相關議題，公司又聯繫不上家長，最好的做法就是通知警方。

奧特曼會推動這項新政策，是因爲今年4月發生少年尋短事件，16歲的雷恩（Adam Raine）在與ChatGPT聊天后，選擇結束自己的生命。雷恩的家人控訴，ChatGPT不僅按步驟指導雷恩，甚至還協助他撰寫遺書。

事件發生後，OpenAI也在網站宣佈，未來將開設新安全功能，讓家長的帳號與孩子的帳號連動，未來如果AI模型偵測到「用戶極度痛苦」，就會向家長髮出警告。

據英國《衛報》報導，ChatGPT過去面對用戶尋短，通常是引導他們撥打自殺防治專線。但奧特曼提出的新政策，將更以更積極的方式處理相關事件。他表示，有些用戶會假借研究或撰寫醫學論文，繞過系統來尋求結束生命的方法。

奧特曼在訪談中指出，全球每週約有1.5萬人尋短，而現在全球約10%的人是ChatGPT的用戶，這表示每週約有1500人和ChatGPT對話，最後卻還是選擇走上絕路。他希望訓練AI並主動通報，能夠改善相關問題，幫助青少年家長了解家中孩子情況。

★珍惜生命，若您或身邊的人有心理困擾，可撥打安心專線：1925｜生命線協談專線：1995｜張老師專線：1980