兩會熱評丨“AI換臉擬聲”行騙，只傷了靳東和雷軍們的“臉面”？

在3月5日的政協小組討論上，全國政協委員靳東迴應了AI換臉導致的詐騙問題。他說：“一些喜歡我影視劇的觀衆，被AI換臉視頻騙得很慘，這個性質非常惡劣。希望能建立更好的規則。”而近日，全國人大代表雷軍也提交了關於加強“AI換臉擬聲”違法侵權重災區治理的建議。

靳東和雷軍在各自領域都取得了很大成績，他們雖然分屬不同領域，但有一個共同的身份——AI換臉擬聲“受害者”。

前幾年，有詐騙團伙專門利用靳東的名氣和影響力，通過在網上虛構名人、明星身份，比如用變聲軟件把自己聲音修改成明星聲音等手段，誘導被害人與“假明星”建立情感聯繫，再以投資、公益、戀愛等各種理由索要錢款。雷軍同樣被“AI換臉擬聲”害得很慘：去年國慶節期間，“雷軍AI配音”相關話題的視頻內容播放量超過1.2億，因爲部分視頻包含“惡意謾罵”內容，不少網友調侃稱“被雷軍整整罵了7天”。

伴隨AI技術的飛速發展，豐富的應用場景令人目不暇接，正在日益深遠地改變大家的工作方式和生活方式。與此同時，有了AI技術的加持，各種網絡信息也變得更加真僞難辨。藉助AI生成工具，有人利用深度僞造技術生成圖片、錄音、視頻，以低質內容混淆視聽、獲取流量，更有甚者，利用AI謠言招搖撞騙從事違法勾當。

根據《互聯網信息服務深度合成管理規定》，任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。《生成式人工智能服務管理暫行辦法》則明確規定，國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

加強對AI技術的監管，建立數據安全與隱私保護法規，明確數據的使用規則和責任，不僅關乎個人的“臉面”，而且關乎行業的“體面”。靳東和雷軍深受AI謠言所害，暴露了行業內部的一些問題：粗放式管理的模式中，某些AI生成軟件幾乎對網絡謠言“不設防”；由於缺少必要的審覈機制，一些內容平臺對網絡謠言後知後覺甚至不知不覺，因此造成網絡謠言大規模擴散。

改變這樣的局面，不僅需要加強法治監管，同時需要相關各方積極履行職責。對於AI生成軟件來說，有必要對內容和關鍵詞進行審覈，守住生成式內容的第一關；對於內容平臺來說，需要加強日常巡查、暢通舉報機制，確保及時阻斷問題內容傳播。

在一個科技改變生活的時代，必須用健全的法律法規爲技術應用構築起安全防火牆。只有強化各方主體責任，才能防止AI技術跑偏，夯實以人爲本、智能向善的人工智能發展生態。

紅星新聞特約評論員 趙志疆

編輯 趙瑜

紅星評論投稿郵箱：hxpl2020@qq.com