資訊戰的新戰線...萬事問ChatGPT？操控聊天機器人答案成新產業

聊天機器人成爲資訊戰的新戰線。路透

民衆有事就問ChatGPT，讓聊天機器人成爲資訊戰的新戰線，全球超級強權、流氓國家、跨國企業等，都悄悄設法操弄人工智慧（AI）機器人，生成對自己有利的答覆，藉此影響大衆觀感。

ChatGPT等大型語言模型（LLM），從網路蒐集大量資料，然後把這些訊息重組成答案。由於聊天機器人極爲仰賴原始資料，可以操控輸入資訊來影響答覆，這造就出欣欣向榮的資訊販賣產業。

上個月美國文件揭露，以色列政府與鐘塔X公司（Clock Tower X）簽署600萬美元合約，對抗美國的反猶太主義。鐘塔X公司提供「GPT建構」服務，透過發佈網站內容等，來影響聊天機器人的回覆。

不只如此，政治顧問商和公關公司也開始提供美化客戶名聲的服務。比方說，DDC Public Affairs公關公司具備「AI稽覈」服務，可判斷聊天機器人對客戶的觀感，然後與網紅和網路論壇合作，來調整答覆結果。該服務承諾要測試的問題，包括某品牌是否造成環境傷害？或某政治人物是否貪污？然後「縮小說法差距以免釀成危機」。

研究AI假消息的奧雷尼克（Lukasz Olejnik）說，就算不知名網站型塑了聊天機器人的回答，使用者還是比較相信聊天機器人生成的答案，而非名不見經傳的網站。他說：「這是『資訊洗白』，用戶不會從可疑網站讀到消息，而是從『受敬重的』AI答覆，看到這些訊息」。

聊天機器人雖會附上參考網站連結，但很少用戶加以確認。皮尤研究中心報告顯示，使用Google AI摘要的用戶，會點擊參考連結的人不到1%。

科技商Anthropic研究顯示，只要影響0.00016%的輸入資料，即便大型AI系統也難逃污染。