AI與詐騙－科技可以載舟 也能覆舟

OpenAI執行長奧特曼於日前警告，全球可能正處於一場由AI驅動的「欺詐危機」邊緣。圖／美聯社

OpenAI執行長奧特曼（Sam Altman）於日前發出警告，指出全球可能正處於一場由人工智慧（AI）驅動的「欺詐危機」邊緣。他認爲不法分子正利用AI技術嘗試突破大多數現有的人類身份驗證方式，除了密碼外，人工智慧似已徹底擊敗目前大多數的驗證方式，例如透過FaceTime進行的冒充，其真實性將難以分辨。美國財政部金融犯罪執法網絡（FinCEN）在2024年所發佈的報告中也曾指出，越來越多有心人士使用深度僞造（Deepfake，是英文「deep learning」（深度學習）與「fake」（僞造）的混成詞）技術，來規避金融機構的身份認證。

近年來，AI不僅讓詐騙活動暴增數倍以上，甚至能輕易模仿或生成語音與影像，導致傳統身分驗證形同虛設，而駭客甚至能在極短的時間突破資安防線。伴隨科技的突飛猛進，企業除了必須強化資安措施外，上述藉由AI深僞技術形成的詐騙儼然成爲企業的新威脅。

近期亦有詐騙集團利用深僞技術，收集一家跨國企業英國總部多位高層臉部畫面與聲音數據，透過AI製成高層的發言影片後，通知香港分公司員工參加視訊會議；由於仿真技術高超導致海外分公司員工不疑有他，依照高層指示將公司款項分多次轉帳到指定戶頭，之後赫然發現全屬騙局，然款項已不翼而飛。

此外，在社交媒體氾濫的時代，個人的資料取得門檻降低，詐騙集團便可透過Facebook或 Instagram等平臺輕鬆掌握，並將其應用於詐騙活動中。例如詐騙集團只需從社交媒體短視頻或語音訊息中下載幾秒鐘的聲音，就能利用AI語音合成工具加以複製，甚至生成虛假內容，令人難以識破，此種被稱爲「社交工程陷阱」（social engineering scams）的詐騙手法近年來層出不窮，防不勝防。

「水能載舟，也能覆舟」，科技亦然。日本飲料大廠麒麟控股公司今年7月正式導入「AI董事 CoreMate」，作爲協助經營階層形成決策的得力助手。該公司自行開發的AI董事CoreMate，蒐集過去十年來公司所有董事會及集團經營戰略的會議紀錄、競爭對手公司資料與外界最新情報，在藉由AI進行分析後生成生產、市場行銷、財務及法務等12種人格構面提出不同建議，有助於企業高層聚焦，進而提升開會品質與決策速度。

由於日本少子化現象嚴重，加上年輕人逐漸不愛喝啤酒，該公司的原始業務逐漸縮水，經過審慎決議後，認爲無論在飲料本業或跨業發展方面，都得以借重AI與人類的「共同創造」模式整合多元專業視角，提升決策效率與品質。1907年2月23日成立的麒麟麥酒株式會社（麒麟控股公司的前身）雖是百年企業，不僅未被時代淘汰，更願意善用嶄新科技開展新局。

載舟覆舟之間，存乎一心。