DeepSeek崛起 KPMG：資安是隱憂

近期DeepSeek曾因雲端資料庫的錯誤組態配置，導致所有網路使用者都可存取內部資訊，進而發生超過百萬筆資料外泄事件，影響範圍包含系統日誌、應用程式介面金鑰及用戶聊天記錄等敏感資訊。謝昀澤認爲，這些資訊如果被惡意人士擷取，將可能帶來系統崩潰的大災難，也將嚴重影響使用者的資料安全性。

同時DeepSeek也存在語言模型的個資蒐集風險，難以避免過去也曾多次發生「明拒暗記」的案例。謝昀澤舉例，如曾經於對話中向AI透露過自己家人的性別、生日等隱私資訊，雖然多數系統會迴應提醒用戶保護好自己隱私，並強調不會蒐集使用者隱私，但隔幾日若使用者在同一個對話活動中提到有關生日禮物的問題，AI卻可以依據曾透露過的家人性別與生日精準回答問題，顯見AI會「循規蹈矩」的提醒提問者，但爲了機智靈活的迴應問題，也會暗中記住線上提問的個資。

KPMG安侯企業管理股份有限公司執行副總林大馗補充，DeepSeek的模型在生成內容時存在一定的漏洞，容易受到「邪惡越獄攻擊」（Evil Jailbreak Attacks），被進行提示注入（Prompt Injection）資安風險，也就是使用者可以經由提示詞誘導的方式，「套路」AI或繞過內建的安全道德圍牆，取得錯誤答案。

在資安高風險產業，特別是金融、電信及高科技等，如要應用新的語言模型，都應該有完整的風險評估及隱私衝擊分析程序，以降低潛在的資安風險，才能保障企業的核心競爭力、使用者的隱私權及資料安全，並確保長期穩定發展。這樣才能減少未來的資安風險。