AI助長資訊戰 以伊衝突假訊息橫行

以伊衝突爆發後,大量AI生成影像被包裝成真實戰況散佈;儘管人物尺寸與戰機外型明顯造假,仍在網路瘋傳,凸顯資訊戰威脅。(取自開源情報OSINT「X」帳號)

親伊朗社羣帳號發佈對比照片,刻意渲染德黑蘭(上)的生活如常,以及特拉維夫(下)的避難情形,政治宣傳意圖不言可喻。(取自每日伊朗軍事「X」帳號 )

「英國廣播公司」(BBC)21日報導,隨着以伊衝突升溫,由生成式人工智慧(AI)技術製作的大量假訊息,近日也在網路迅速蔓延;專家分析,這是生成式AI技術「首度在衝突中被大量使用」,勢將加速擴張資訊戰規模,成爲新興重大威脅。

AI首度在衝突中被大量使用

自以色列13日開始空襲伊朗以來,大量資訊也在網路上迅速擴散,如伊朗當局聲稱擊落以軍F-35I戰機後,社羣媒體便流出一張疑似戰機墜毀殘骸圖片,但因圖中人物與車輛尺寸相近,戰機外型結構也明顯不符實體,加上尺寸「宛如巨無霸客機」,因此被認定是運用生成式AI製作的假訊息。

此外,短影音平臺TikTok(抖音國際版)也出現一則疑似F-35戰機遭防空飛彈擊落影片,儘管事實查覈中心確認影片是由飛行模擬器軟體制作,但該則影片被刪除前,已累積超過2110萬次點閱,凸顯假訊息的散播速率驚人。

報導指出,某些網路帳號已成假訊息的「超級傳播者」,如社羣平臺「X」一個看似與伊朗官方無關的帳號「每日伊朗軍事」(Daily Iran Military),追蹤人數在短短一週內便由70多萬成長至140萬。而多個使用官方名稱、但未釐清真正用戶身分的社羣帳號,則大量轉傳運用生成式AI、遊戲軟體制作的資訊。

同時也有立場親以色列的帳號,張貼伊朗民衆在首都德黑蘭街頭高呼「我愛以色列」口號的影片,凸顯生成式AI技術被衝突雙方廣泛運用,大幅增加閱聽衆接收真實資訊與查覈的困難度。

專家指出,儘管轉傳假訊息的初始動機不一,推斷與特定政治目的或報酬收益有關,但人們面臨衝突與對立抉擇之際,聳動內容更將助長假訊息快速流傳;因此社羣媒體如何強化事實查覈效能、閱聽衆如何提升媒體素養,成爲當務之急。