北市率全國自編AI教材 揭露deepfake換臉犯罪 培養學生科技素養

北市明德國中老師陳妤蓁，以常見的「深度僞造deepfake」犯罪爲例，利用AI透過換臉詐騙等，引導學生認識利用AI互動的潛在風險。（圖／臺北市教育局）

爲因應生成式AI快速興起，臺北市教育局率先全國發布自編《資訊素養與倫理》教材最新單元「AI未來新世界」，爲全國首創結合AI技術、資訊倫理與課程應用的教育資源。北市明德國中老師陳妤蓁，以常見的「深度僞造deepfake」犯罪爲例，利用AI透過換臉詐騙等，引導學生認識利用AI互動的潛在風險，培養使用AI技術應具備的資訊科技素養。

教育局的「AI教育內容及策略」分別自「基本素養」、「技術養成」及「管理應用」發展，在「基本素養」層面，北市今年6月發佈「資訊素養與倫理AI教材」，上冊先講述人工智慧發展史、介紹各技術原理，對AI有了基本認識後，再透過下冊建立學生的資訊倫理，包含生成式AI真僞辨別、資料偏誤與應用技巧、法律與社會議題等倫理面的探討。

教育局長湯志民指出，首先要讓學生擁有正向人格素養，纔會正面使用新時代的工具，由於這不會是正式考試的範圍所以最難，參與本次教材彙編工作的陳妤蓁分享，學校會教導學生，即使使用AI的動機是「好玩」，但一旦將照片、影片等內容上傳發布，只要對方感到不舒服，就可能觸犯法律並被提告，因此學生需要清楚知道「開玩笑」的界限在哪裡。

陳妤蓁說明，教學會以目前常見的「深度僞造（deepfake）」，利用AI讓2張照片中的人物互動或透過換臉詐騙等爲例，引導學生認識利用AI進行圖像或影音互動的潛在風險，並瞭解使用AI技術應具備的法律知識、著作權、肖像權和尊重他人的資訊科技素養。

至於在「技術養成」層面，臺北市國中小階段推動三語課程，在雙語的基礎下加入程式語言，培養學生運算思維與邏輯思考，目前核定國小19校、國中15校；高中階段現有8校推動新科技學程，其中5校成立AI專班、3校採融入式課程，透過選修與專業師資，讓有興趣的學生接觸Python、機器學習與深度學習；還有結合PBL的專題研究，學生會用AI工具來協助資料分析、解決真實問題。

陳妤蓁說明「管理應用」上，北市特別建置「酷AI學習系統」及「CooC＋影音串流學習平臺」，都有導入AI服務，鼓勵公民、社會等其他學科的老師，將AI融入課程中，例如使用「酷AI學習系統輔助作文寫作」利用AI撰寫參考作文，提供學生髮想範例，後續學生完成作文後，再利用「酷AI學習系統輔助作文寫作」評分結果，深入瞭解自己作文可改進之處，也會「使用AI創作音樂」透過SUNO AI將難以記得的學科知識，編寫成自己喜歡的旋律，透過反覆聆聽達到記憶的效果。

教育局說明，在今年8月前會推出「網路犯罪大挑戰」單元教材，包括性私密影像、網路零信任、網路犯罪及詐騙預防、網路暴力及黃賭毒短影音傳播主題。