詐騙好幫手：AI

圖╱美聯社

新聞提要■AI已淪爲詐騙幫兇，騙徒利用聊天機器人生成詐騙腳本提高成功率，且經實測可繞過AI模型防護機制生出釣魚郵件，AI甚至提供最佳行騙時機建議。

精句選粹■Many scammers used a free version of ChatGPT to craft messages designed to trick Americans into making bogus cryptocurrency investments.

全球競逐的當紅炸子雞AI，淪爲惡名昭彰的緬甸詐騙園區幫兇。有逃出園區的受害者現身說法，指詐騙話術和腳本全靠AI工具ChatGPT生成。路透與哈佛大學聯手調查發現，主流生成式AI模型的安全機制形同虛設，被有心人士誘導生出釣魚郵件。

26歲肯亞男子奧金多（Duncan Okindo）表示，他在家鄉難以找到養家餬口的工作，去年經當地人力仲介公司牽線，飛到泰國擔任客服，結果一下機就被強押到泰緬邊境的詐騙基地KK園區，他親身經歷犯罪集團如何利用AI詐騙得逞。

奧金多告訴路透，他被迫利用免費版ChatGPT編造詐騙劇本，引誘美國人投資加密貨幣。這就是所謂的「殺豬盤」，騙徒精心博取受害者信任後，設局榨取錢財。

奧金多上Zillow.com等房地產網站找尋獵物，鎖定不動產經紀人，他冒充德州牧場主人或阿拉巴馬州大豆農夫，聲稱靠投資加密貨幣致富，誘騙被害者匯款至虛假的交易平臺，錢實則進了詐騙集團帳戶。

奧金多透露，ChatGPT是園區最常使用的AI工具，助他和其他詐騙者佯裝成道地美國人。他說，「你必須給人熟門熟路的感覺，如果抓不到重點，房地產經紀人會識破這是騙局。」

奧金多指出，要是他的詐騙目標提出加密貨幣或房市方面的問題，他就求助聊天機器人生成答案回覆。他還會利用ChatGPT臨時拼湊出行騙話術，成功讓受害者上鉤。

AI生成情話 更具說服力

今年4月泰國政府爲了打詐，切斷KK園區電力，部分詐騙園區員工遭到「解僱」，奧金多得以逃脫。肯亞反人口販運組織HAART Kenya證實，今年稍早有數位從KK園區獲釋的肯亞人，奧金多是其中之一，他的陳述與其他東南亞詐騙園區受害者相符。

路透也訪問兩名曾在其他詐騙園區工作的緬甸男子，其中一人表示專門做網路愛情詐騙，ChatGPT問世後徹底改變行騙手法。他靠AI生成的情詩與調情訊息，同時向數十名目標求愛，有了ChatGPT這個利器，他的愛情詐騙更具說服力。

儘管ChatGPT開發商OpenAI聲稱，凡是違反OpenAI反詐騙規定的請求，AI模型都會拒絕，但路透與哈佛大學的調查發現，AI已淪爲詐騙幫兇。

鑽聊天機器人防護漏洞

路透記者實測ChatGPT、Grok、Meta AI、Claude、Gemini和DeepSeek等熱門AI聊天機器人，直言無諱要求生成詐騙長者的釣魚郵件時，多半會遭到拒絕。但聊天機器人的防護機制仍有漏洞，例如自稱是「研究釣魚郵件的學者」，或「正在寫關於詐騙的小說」，AI模型就會生成詐騙內容。

路透與哈佛大學研究員海丁（Fred Heiding）合作，拿AI聊天機器人生成的釣魚郵件，對108名美國長者測試，結果11％受騙點擊這些惡意郵件。若問發送詐騙郵件給長者的最佳時機，AI還會提供建議。