從OpenAI訴訟案看臺灣數位治理　我們爲下一代準備好了嗎？

▲OpenAI因其聊天機器人ChatGPT涉嫌引導青少年自殺而面臨訴訟，芮恩夫婦近期於美國加州州法院向OpenAI公司提起訴訟。（圖／達志影像／美聯社）

●陳擷安／科技集團法務

OpenAI因其聊天機器人ChatGPT涉嫌引導青少年自殺而面臨訴訟，芮恩夫婦近期於美國加州州法院向OpenAI公司提起訴訟，指控其聊天機器人ChatGPT應爲他們16歲兒子亞當．芮恩（Adam Raine）的死亡負責。訴狀稱，在2024至2025年間，ChatGPT與亞當發展出一段擬似親密的互動關係，並在2025年4月11日的最後一次對話中，提供了關鍵性的有害資訊，最終導致了這起悲劇的發生。

此案不僅是遠在太平洋彼岸的個案，更是對全球數位治理投下的一顆震撼彈。當AI技術以驚人速度滲透臺灣校園與家庭，成爲學生做功課、解惑甚至抒發心情的對象時，我們必須嚴肅自問：這起訴訟案所揭示的風險，臺灣是否已有能力應對？我們的法規、產業與教育體系，是否已爲保護下一代做好了準備？

檢視臺灣現況，數位發展部與國科會正積極推動《人工智慧基本法》草案，力求在產業發展與基本權利間取得平衡，其方向值得肯定。

然而，當前的政策討論，多數聚焦於AI產業的創新、經濟效益以及防範詐騙、假訊息等宏觀議題，對於AI作爲一種「社會性產品」，可能對青少年產生細微而深遠的心理影響與發展風險，卻着墨甚少。

美國的悲劇　體現數位治理藍圖忽略了「兒少心智健全發展」

面對此一新興挑戰，政府不能再僅僅扮演產業推動者的角色，更需成爲社會安全的守護者。我們在此提出三項具體政策建議：

一、確立主管機關，並修正民事責任以填補法律漏洞

首先，政府應明確指定AI產品與服務的權責主管機關。數位發展部理應承擔起主要協調角色，整合經濟部、國科會、通傳會（NCC）、教育部及衛福部等相關部會，建立跨部會的AI治理聯繫機制。

其次，應儘速檢討並修訂現行法規，如《消費者保護法》、《電子簽章法》及《兒童及少年福利與權益保障法》，將AI生成內容的服務提供者納入規範。

更具前瞻性的做法是，在研議中的《人工智慧基本法》中，增訂「高風險AI應用」之特別章節，明確要求對兒童及青少年提供服務的AI系統，必須在上市前完成嚴格的倫理風險與衝擊評估，並課予開發者與營運商更高的注意義務與法律責任。

並在專法中導入「過失推定責任」，亦即，當使用者能證明其損害與AI服務間有因果關係時，法律即推定服務提供者具有過失，業者須反證自身已採行所有必要之風險控管措施，始得免責。

此舉能有效逆轉受害者的舉證劣勢，將安全責任迴歸到最有能力控管風險的開發者身上。

二、推動「青少年友善AI認證」，引導產業正向發展

除了法律的強制性規範，政府可借鑑能源效率標章或環保標章的成功經驗，與民間專業團體、產業界合作，共同推動「青少年友善AI認證」標章。

此認證可設定標準，例如：是否具備有效的年齡驗證機制、內容過濾的嚴謹度、是否有防止成癮的設計、對話紀錄的隱私保護政策，以及是否能清楚標示其非真人的本質，避免使用者過度情感依賴。透過此一標章，不僅能爲家長與教育者在選擇AI工具時提供清晰指引，更能激勵企業將「青少年保護」作爲其產品競爭力的一環，形成市場上的正向循環，引導產業自律與創新。

三、深化AI數位素養，建構社會防護網

法律與認證是外部的防線，而真正的韌性來自於社會內部的素養。教育部應將「AI素養」納入下一波課綱研修重點，從中小學階段開始，教導學生不僅是「使用」AI，更是「理解」AI。

課程內容應涵蓋大型語言模型的運作原理、何謂「AI幻覺」（AI Hallucination）、演算法偏見，以及與AI建立情感連結的潛在心理風險。

同時，衛福部心理健康司與社會及家庭署應制作相關指引，協助家長、教師與第一線輔導人員，學習如何與孩子討論他們和AI的互動，及早發現潛在的警訊。

綜上所述，與其在悲劇發生後倉促補救，不如現在就開始擘劃藍圖、編織一張結合法規、產業與教育的全面防護網。這不僅是爲了應對眼前的挑戰，更是爲了確保臺灣在智慧時代的發展，能夠真正兼顧創新與人本關懷，爲我們的下一代打造一個更安全的數位未來。

▼法律與認證是外部的防線，而真正的韌性來自於社會內部的素養。教育部應將「AI素養」納入下一波課綱研修重點，從中小學階段開始，教導學生不僅是「使用」AI，更是「理解」AI。（示意圖／取自免費圖庫Pexels）

►思想可以無限大－喜歡這篇文章？　歡迎加入「雲論粉絲團」看更多！

●以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net或點此投稿，本網保有文字刪修權。