“賣家秀”失真，電商平臺首次針對AI假圖出臺措施｜合規週報（184期）

21世紀經濟報道記者肖瀟 北京報道

每個週日，“合規週報”會盤點最近一週國外人工智能、科技競爭、個人信息保護方面值得關注的動態。

本週，我們重點關注淘寶近日啓動的AI假圖治理，據悉這是電商平臺首次針對AI假圖出臺措施。跟社交平臺治理“同質化”AI內容類似，淘寶的思路也是增加AI圖片標識，用大模型打敗大模型、加強AI圖片的識別。

同時，本週國內監管動態不少，《網絡安全法（修正草案再次徵求意見稿）》發佈，市監總局提到要加快AI領域的標準化制定工作。國外方面，幾起AI版權訴訟案有了新進展。

3月27日，針對AI假圖亂象，淘寶發佈新規，嚴禁利用AI等技術合成方式，呈現顯著失真的與實際不符的商品信息效果圖，侵害消費者知情權、誤導消費者。

淘寶表示，一些電商商家開始利用AI生成商品圖片、視頻，其中不乏失真、造假現象，不僅影響了消費者權益，還進一步降低了不良商家山寨跨平臺抄款、盜圖的成本。因此，淘寶還向全行業發出倡議，規範使用AI生成圖片，保障商品信息真實，一起加入對AI假圖的全面治理。

具體落地方式上，淘寶主要是更新了商家規則，提出幾大AI假圖的典型違規場景，包括商品材質或款式不符、商品效果失真或誇大效果、摳圖貼圖感明顯，以及違反了物理規律的人體、場景等。

據稱，淘寶通過上線識別模型，採取“源頭攔截”“存量清理”和“標識提醒”的多項措施，展開全面治理，目前已累計攔截近10萬張AI假圖。此外，商品詳情頁還將上線AI合成提示標識，保障消費者知情權。

市場監管總局將加快推進人工智能領域國家標準研製工作

3月28日，在2025年一季度例行新聞發佈會上，市場監管總局新聞宣傳司司長王秋蘋表示，市場監管總局正在加快推進人工智能國家標準研製工作，近期還將圍繞人工智能領域發佈一系列國家標準，持續引領行業規範發展。

2024年年底，市場監管總局會同有關部門印發《國家人工智能產業綜合標準化體系建設指南》，對人工智能標準化工作進行了新一輪規劃。王秋蘋介紹，今年以來，市場監管總局聚焦產業發展需求，加大標準供給力度，先後發佈人工智能大模型通用要求、測評指標與方法、服務能力成熟度評估等國家標準。

需要重點關注的是安全治理方面。王秋蘋介紹，將圍繞生成式人工智能數據標註和優化訓練等環節，開展數據安全標準研製，保障生成式人工智能全流程數據安全；加強人工智能應用安全分類分級、能力成熟度評估、倫理治理等標準研製，保障人工智能技術使用的安全性和可靠性。

四部門發起個人信息保護專項活動，整治暗網售賣信息行爲

3月28日， 中央網信辦會同工業和信息化部、公安部、市場監管總局，開展2025年個人信息保護系列專項行動。

專項行動針對六個問題：

1、App（含小程序、公衆號、快應用）違法違規收集使用個人信息；

2、SDK違法違規收集使用個人信息；

3、智能終端違法違規收集使用個人信息。尤其是智能手錶、智能手環、智能平板等終端，相關功能開啓後需在後臺持續收集個人信息，或者需在雲端計算和分析，但未向用戶進行顯著提示；

4、公共場所違法違規收集使用人臉識別信息；

5、線下消費場景違法違規收集使用個人信息；

6、個人信息相關違法犯罪案件。聚焦個人信息違法犯罪活動，通過暗網電報等境外渠道以及境內渠道違規售賣公民個人信息。

《網絡安全法（修正草案再次徵求意見稿》發佈

3月28日，國家網信辦就《中華人民共和國網絡安全法（修正草案再次徵求意見稿）》公開徵求意見，其中提到，造成大量數據泄露、關鍵信息基礎設施喪失局部功能等嚴重危害網絡安全後果的，由有關主管部門處五十萬元以上二百萬元以下罰款，並可以責令暫停相關業務、停業整頓、關閉網站或者應用程序、吊銷相關業務許可證或者吊銷營業執照。

ChatGPT新功能颳起“吉卜力風”，引起版權爭議

美國當地時間3月26日，OpenAI發佈了GPT-4o多模態生圖功能。以前GPT-4o只能用來生成文本，現在可以“一句話”生成圖像，包括做產品設計、改海報、畫插圖。生成圖片的穩定性和一致性被外界認爲有了質的飛躍。

但發佈後最火的玩法還不是商業設計，而是讓AI生成帶有吉卜力風格的插圖。 GPT-4o更新後，#吉卜力#迅速在海外社交媒體X上刷屏，網友爭相用AI生成吉卜力風格的插圖，讓馬斯克、特朗普等名人都“吉卜力化”。

不過可能因爲擔心侵權風險，ChatGPT已開始限制部分輸出。3月28日開始，陸續有用戶反映，當請求生成吉卜力風格插圖時，GPT-4o會回覆：“出於當地的內容政策限制，我無法生成類似圖片。”

南財點評：從法律角度來看，風格本身並不受著作權法保護。但如果AI生成的作品涉及具體構圖、線條、色彩等關鍵元素，則可能引發侵權爭議。例如，AI可以生成“龍貓風格”的插畫，但如果直接生成“龍貓”形象，就可能構成侵權。

需要注意的是，能生成如此逼真的“吉卜力風”插圖，OpenAI是不是在訓練時就使用了大量吉卜力作品呢？如果OpenAI在訓練時，未經授權使用了受版權保護的吉卜力動畫作品，也可能構成對版權方複製權的侵害。OpenAI並未正面迴應，不過在接受《華爾街日報》採訪時公司表示，GPT-4o的圖像訓練數據來源包括“公開數據”和“與Shutterstock等圖片庫合作的專有素材”。

Anthropic 取得 AI 版權官司初步勝利

據路透社報道，3月25日，美國法院裁定版權方在一起AI版權糾紛中敗訴。該案由環球音樂集團（UMG）、Concord 和 ABKCO 於 2023 年提起，指控AI公司 Anthropic 未經授權使用至少 500 首歌曲的歌詞來訓練其大模型 Claude，從而侵犯了他們的版權。出版商聲稱，這種未經授權的使用可能會破壞他們的授權市場。

裁決認爲，音樂集團的請求過於寬泛，並且未能證明 Anthropic 使用歌詞對其造成了“不可彌補的損害”，因此不予支持禁令請求。

法官指出，出版商實質上是在要求法院爲AI訓練的授權市場劃定界限，但其核心前提 ——此類使用行爲是否構成美國版權法所規定的“合理使用”，仍然是一個尚未解決的法律問題。

被指引導青少年自殺後， Character.AI 將爲家長提供使用記錄

AI情感陪伴平臺 Character.AI 近日推出了新功能“家長洞察”（Parental Insights），青少年用戶可將每週的聊天使用報告發送至家長的郵箱。

官方公告稱，報告內容包括用戶日均使用時長、最常互動的角色、角色聊天時長。公司強調，這是青少年活動的概述，而不是完整的日誌，因此聊天記錄不會被共享，最主要的是讓家長了解自家孩子在跟哪一AI角色對話。

Character.AI 去年面臨多起訴訟，被指控對青少年用戶的行爲造成“嚴重且無法彌補的傷害”，包括與未成年人對話內容涉及自殘、性虐待等行爲。所以在此此後，Character.AI 一直在爲未成年用戶推出新功能，比如爲未成年人用戶單獨提供一個“特訓版”大模型，避免敏感內容的輸出，同時增加更顯眼的防沉迷通知，提醒用戶AI角色不是真人。

目前在大多數地區，Character.AI 禁止 13 歲以下的兒童使用，在歐洲禁止 16 歲以下的兒童使用。