每經熱評丨AI合成明星帶貨亂象頻現 平臺企業不可坐視不理

每經評論員 陳婷

近期，多個賬號在社交平臺上僞造跳水運動員全紅嬋及其家人聲音合成AI（人工智能）視頻爲商品帶貨，不少消費者直呼上當。

無獨有偶。今年2月，據《每日經濟新聞》報道，只需花1280元，直播、視頻通話能實時換成娛樂圈明星劉亦菲、楊冪的臉。

隨着AI技術的快速發展，AI深度僞造技術在過去幾年經歷了顯著的迭代升級，幾近以假亂真。在此背景下，違法違規運用AI進行牟利的事件屢見不鮮。

人民日報近日發文稱，人們樂見AI技術助力網絡消費，但絕不允許AI騙術“張牙舞爪”，侵蝕網絡消費的信任與成色。

筆者認爲，AI騙術帶來的亂象和影響不容忽視，相關平臺企業不可坐視不理，必須主動亮劍，將風險防控和倫理審查前置化。

事實上，面對AI技術潛藏的風險與挑戰，作爲AI產品的研發者和推廣者，相關企業有機會將此類亂象儘可能扼殺在萌芽階段。

具體而言，筆者認爲，第一，技術企業可在技術研發環節就嵌入合規紅線。例如，對AI生成內容設置明確的標識機制，讓公衆能夠明確辨別真實信息與AI合成內容，從源頭上避免虛假信息混淆視聽。

第二，在商業合作中，應建立嚴格的名人授權覈查流程。對涉及名人形象、聲音等的AI應用，應當獲得完整、合法的授權，杜絕未經許可的AI合成營銷行爲，從流程上堵住漏洞。

第三，短視頻平臺在遏制AI虛假營銷等亂象中應扮演關鍵角色。比如，平臺可加強對創作者的行爲規範，明確要求創作者在發佈AI生成內容時進行顯著標識，註明內容的合成屬性，讓用戶能夠清晰區分真實信息與AI創作內容。

長期來看，短視頻平臺加大對AI內容溯源、真僞鑑別等技術的研發投入，有機會在技術層面築牢防線，這也是提升平臺自身安全和履行社會職責的現實需要。

第四，相關平臺企業可與同行、技術企業、監管部門等加強合作，共同制定行業規範，合力規範AI應用行爲。

與此同時，監管部門也應強化相關黑產打擊力度和對平臺企業、技術企業的監督力度。

總之，對於AI技術應用普及帶來的負面效應，企業的主動擔當與應對至關重要。否則，一旦市面上出現大量AI違規內容，不但治理難度大幅提升，對社會公衆造成的危害也將持續蔓延。當下，公衆對AI違規內容的容忍度已經越來越低，對相關企業而言，誰先完成前置治理，誰就有望率先把合規成本轉化爲護城河。

當然，企業的主動作爲離不開外部環境的支撐。相關部門應加快完善相關法律法規，明確AI應用的法律邊界和責任認定標準，加大對違法違規行爲的懲處力度，形成有力震懾。社會公衆也應加強防範，提升自身對AI虛假信息的辨別能力。