湖北公安網安部門查處一起利用AI工具編造虛假信息案

來源：公安部網安局

AI創作被帶偏……

武漢礄口警方查處一起利用AI技術造謠案件

當AI被“帶偏”，只因假新聞背後的流量陷阱

隨着人工智能(AI)技術的發展

AI在文本生成、圖片創作等方面應用越來越廣泛，輸入幾個關鍵詞即可快速生成一張畫或一篇文章。一些網民爲博眼球、蹭熱度，將AI技術用以編“僞消息”、造“假新聞”，以此來獲得網民關注和點贊量進而實現流量變現。近日，武漢市公安局礄口區分局依法查處一起利用AI技術編造網絡謠言的案件。

01

案情回顧

公安網安部門工作中發現，某資訊網站發佈的文章嚴重失實。網警及時取證，並與網站所屬公司取得聯繫，通過法治教育，該公司迅速刪除了不實文章。

據查，該公司爲提高所運營網站的流量，購買了一個AI智能寫作軟件，通過輸入自設的關鍵詞，由系統自動抓取網絡信息生成文章。涉案文章系AI機械拼接多地文本而成，該公司發佈前未按規定對發佈內容履行審覈責任。

公安機關根據相關法律法規，對涉事公司予以行政處罰。目前，涉事公司已在網站首頁公開致歉聲明，下架全部AI生成內容，並在公司內進行整改。

02

網警提示

根據《互聯網信息服務深度合成管理規定》，任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

深度合成服務提供者和使用者不得利用深度合成服務製作、複製、發佈、傳播虛假新聞信息，轉載基於深度合成服務製作發佈新聞信息的，應當依法轉載互聯網信息稿源單位發佈的新聞信息。

深度合成服務提供者和技術支持者違反《互聯網信息服務深度合成管理規定》的，依照有關法律、行政法規的規定處罰；造成嚴重後果的，依法從重處罰。構成違反治安管理行爲的，由公安機關依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

素材丨湖北網警