AI玩過頭會坐牢 網紅小玉換臉案登上北市國中教材

「小玉」朱玉宸向換臉不雅影片中的被害人鞠躬道歉。記者柯毓庭攝影／聯合報系資料照

AI科技興起，北市率先全國發布全學層「AI素養教材」，內容包含生成式AI真僞辨別等，提供教師運用。明德國中教師陳妤蓁分享案例，網紅小玉以AI換臉製作不雅影片而被判刑，藉此教導辨別AI潛在風險，課堂上也獲得學生回饋，「孩子比較知道界線。」

教育局6月公佈資訊素養與倫理教材的最新單元「AI未來新世界」，針對高中職、國中、國小3個學層不同學習重點編撰，每個學層分爲上下冊，上冊着重培養學生對AI基本認識，下冊則建立學生資訊倫理，包含生成式AI真僞辨別、資料偏誤與應用技巧、法律與社會議題等倫理面的探討。

參與教材彙編工作的明德國中資訊教師陳妤蓁分享，在課堂以常見的深度僞造（deepfake）爲題材，引導學生認識利用AI進行圖像或影音互動的潛在風險。她舉例學生有感的網紅小玉事件，小玉與同夥用深僞技術換臉製成猥褻影片後販賣，觸犯刑法、個資法等而被判刑。

陳妤蓁直言，學生使用生成式AI的動機是好玩，她透過案例教導學生分享「三不要、一要」，不要以AI捉弄人臉，未經本人同意是觸犯肖像權，再者不要亂上傳或轉傳猥褻影片，以免涉及傷害名譽權，第三是收錢更嚴重，恐從重處罰，最後是尊重別人肖像與隱私。

她說，學生上完課後，回饋相當熱烈，資訊能力確實提升，知道不能開玩笑，否則會觸法，「一再教學，孩子比較知道界線。」

陳妤蓁不諱言，這世代的學生都是資訊原住民，比師長走得還要前端，也都會和她分享新軟體，教學相長。時代瞬息萬變，加上自己是資訊教師，平時備課會結合時事與新工具，不讓學生上課感到老掉牙，她也欣慰學生在課堂上都很專心，甚至互動熱絡。

教育局長湯志民說，AI時代下，教育着重培養學生能理解、善用AI，併成爲具備倫理判斷及人文關懷的AI時代公民，因此教育局和專家學者團隊研究文獻後，提出學生在AI世代應具備「以人爲本思維」、「倫理道德」、「AI技術應用」與「AI系統設計」四大核心素養。

教育局表示，114學年度起，北市教師將可運用最新推出「AI未來新世界」教材授課。另外，年底前會陸續公佈多個單元，「網路犯罪大挑戰」探討性私密影像、網路犯罪及詐騙預防等，「虛擬世界任遨遊」、「數位智財創用趣」等單元。

北市明德國中教師陳妤蓁分享，網紅小玉以AI換臉製作不雅影片而被判刑，藉此教導學生辨別AI潛在風險。記者林佳彣／攝影

北市明德國中資訊教師陳妤蓁以常見的深度僞造爲題材，舉例網紅小玉事件，引導學生認識利用AI進行圖像或影音互動的潛在風險。記者林佳彣／攝影

延伸閱讀