掃毒軟體檢測中國生成式AI？ 　刑事局：依美國檢測標準不實指控

▲圖爲刑事局外觀。（圖／資料照片）

記者張君豪／臺北報導

針對中國時報4日報導質疑刑事警察局「以掃毒軟體檢測生成式AI」、「亂測」等情事，刑事局今（4）日發佈澄清，強調對中國製生成式AI應用程式的檢測採「APP資安檢測」與「AI模型風險檢測」兩階段進行，兩者工具與標準截然不同，媒體報導將兩者混爲一談，已造成誤解。

刑事局科技犯罪防治中心晚間緊急說明，表示針對大陸「通義千問」及「騰訊元寶」等陸制生成式AI語言模型第一階段的APP資安檢測，主要針對應用程式本身程式碼與運作結構進行安全性分析，採用的是國際通用的開源軟體 Mobile Security Framework（MobSF）。該框架屬於資安領域標準工具，目的在確認APP是否存在惡意程式碼或資安風險，並非用來檢測AI內容。

▲刑事局11月16日公佈檢測中國生成式AI發現有惡意程式。（圖／記者張君豪翻攝）

最誇張的是，上述兩款AI語言模型在用戶使用過程、會暗中蒐集民衆個資，包含用戶位置、通訊錄、截圖、剪貼簿內容甚至是儲存空間檔案都會被蒐集，另外連線封包也會導向惡意網址。

刑事局科技犯罪防制中心說明：第二階段的AI模型風險檢測，則針對生成式AI語言模型的內容輸出與風險評估，完全不會使用MobSF或掃毒軟體，而是透過自然語言提問方式進行實測，並依循美國國家標準暨技術研究院（NIST）所發佈的「人工智慧風險管理框架（AI RMF）」進行檢測；同時參考國內AI產品與系統評測中心（AIEC）公佈的10項AI評測指標，建立「AI語言模型評測問題列表」。

刑事局表示，整體檢測流程皆符合國內外專業標準與國際框架，針對APP安全與AI模型風險，分階段使用適當工具驗證，並無媒體所稱「以掃毒軟體測AI」的情況。刑事局強調，爲避免外界誤解，特此澄清相關資訊，以正視聽。

獨／聖石金業吸血鍊金術曝！狂蹭總統、高官...檢警抄扣上億資產

獨／聖石金業公益破滅！涉吸金詐騙數千人...女董座等30人被捕

獨／聖石黃金契約太好賺警察記者都被騙　檢扣勞斯萊斯近10億資產