AI深僞太逼真!嘉市議員模擬警局長人聲 本人都說「很像」

嘉義市議員郭定緯以AI模擬警察局長沈炳信聲音,連沈都說乍聽之下很像他的聲音。(郭定緯服務處提供/呂妍庭嘉義傳真)

郭定緯指詐騙手法常以美女照片配上甜言蜜語吸引民衆上鉤。(郭定緯服務處提供/呂妍庭嘉義傳真)

嘉義市議員郭定緯今(6日)在市議會質詢,以一首徐乃麟經典名曲〈7533967〉作爲開場,巧妙帶入「寂寞」主題,點出當前網路交友詐騙十分猖獗,還現場播放AI模擬警察局長沈炳信聲音影片,連沈都說乍聽之下很像他的聲音,郭定緯表示,詐騙手法不斷進化,呼籲警方加強對新興詐騙技術的識別與防制,沈炳信則強調,現在眼見不一定爲憑,很容易僞造,呼籲民衆應多存疑、多求證。

郭定緯今展示多則假交友貼文與留言實例,問沈炳信「嘉義市的美女怎麼這麼積極在徵友?一個比一個還主動告白?」,進一步指出,這些詐騙手法常以美女照片配上甜言蜜語吸引民衆上鉤,尤其鎖定關鍵字如「嘉義市」、「交友」、「單身聯誼」潛入各大社團,製造大量假帳號騙取聯絡方式。

郭定緯指詐騙手法常以美女照片配上甜言蜜語吸引民衆上鉤。(郭定緯服務處提供/呂妍庭嘉義傳真)

嘉義市議員郭定緯呼籲警方加強對新興詐騙技術的識別與防制。(郭定緯服務處提供/呂妍庭嘉義傳真)

郭定緯說,雖然警方近期在打詐方面成效顯著,去年11月至今年3月案件與財損金額均呈現下降趨勢,但今年4月卻回升至208件、財損高達5802萬元,顯示詐騙集團手法不斷翻新,打詐行動不可鬆懈。

郭定緯更進一步點出AI詐騙的潛在危機,並於現場播放用他自己AI合成的「警察局長沈炳信語音訊息」,相似度極高,連沈炳信本人都笑說「乍聽之下很像」,旁人也說難以分辨,郭定緯因此強調,這不只是科技玩笑,而是下一波更危險的詐騙潮流。

郭定緯要求市警局,持續強化員警的詐騙識別教育並主動掌握新興社羣平臺詐騙模式並及早通報,同時也呼籲警方「不只是抓小偷,也要學會抓變臉的AI詐騙」,務必持續進化打詐能力,全力守護嘉義市民的財產與安全。

對此,沈炳信迴應,4月嘉義市詐騙案件提高以網路購物、假投資詐騙佔大宗,警察局會持續與各單位合作,持續關注新型詐騙型態防堵詐騙。

另針對AI詐騙,沈炳信說,科技技術被模仿是很普遍的,若民衆碰到可疑的電話、視訊或聲音,可以請對方搖搖頭、擺擺手或直接回撥電話確認,強調現在眼見不一定爲憑,呼籲民衆應多存、多求證。