林書立／AI合成通緝照的監管法規

▲美國保守派政治運動人士查理·柯克（Charlie Kirk）遭槍殺（圖／路透社）

林書立／銘傳大學助理教授

川普總統的重要戰友查理·柯克（Charlie Kirk），在大學演講遇害後造成全世界震驚與關注，聯邦調查警察局立即發佈通緝，公佈兇手監視影像，但是由於影像僅有側面不清晰輪廓，熱心網友爲了幫助緝兇，立即用AI合成兇手較完整的正面輪廓，雖然最後兇手落網是由於父親告知教會的牧師報案後遭到逮捕，但是使用AI合成特定人士的影像後，將合成影像公佈的法規適用，已成爲不能逃避的新議題。

▲▼柯克遇刺慘死槍手在逃！FBI公佈嫌犯正面照。（圖／翻攝自X）

有關AI的管制法規主流爲美國、歐盟與英國，皆將AI系統與AI基礎模型納入適用範圍，從風險監管途徑來規範AI使用。但對於風險範圍與分類，則有不同劃分。

美國主要關注「兩用基礎模型」在國家安全、經濟安全、公衛安全等方面構成的嚴重風險（serious risk），並於「兩用基礎模型」定義之中列舉三類國安風險情境，期能大幅降低外行人設計、合成、取得、使用核生化物品的進入門檻！

▲兇嫌爲22歲猶他州男子羅賓森（Tyler Robinson）。（圖／路透）

最近英國主導的「AI安全高峰會」則與美國行政模式較爲相似，根據AI系統的通用性與潛在傷害程度，區分了AI系統，將監管重點置於一般性AI範疇下的前端AI（Frontier AI）管理，而對於具有危險傷害能力的特定AI（Narrow AI with dangerous capabilities），英國於高峰會後宣佈「布萊切利宣言」（Bletchley Declaration），指出AI形成的風險先天即具國際性質，尤需經由國際合作解決。該宣言簽署者包括英國、美國、法國、德國、義大利、日本、歐盟、印度以及大陸和其他國家共約30國外，還包含G7和G20成員，顯示國際間對於AI監理的意識，已逐漸成國際經貿與科技政策合作重點！

由於AI的合成技術越來越普及，對於此次合成槍手照片公佈的技術和成風險，在聯邦調查局公佈全面通緝的授權下，主要風險僅在於合成的影像是否誤導走向錯誤方向，但本案再次凸顯AI相關法制推行的必要，未來對於合成影音與文章，應如何遵守相關規範或標示，AI高度仿真的影音若被合成對社區有高度性侵風險人物照片等議題，都存在極大挑戰，允宜儘速參照各國作法與趨勢，儘速訂定相關監管法規，否則問題發生後，將成爲棘手且難以治理的漏洞。

►思想可以無限大－喜歡這篇文章？　歡迎加入「雲論粉絲團」看更多！

●以上言論不代表本網立場。歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net或點此投稿，本網保有文字刪修權。