Kimi上線信源質量徽章,並與財新正式達成版權合作|合規週報(第188期)
21世紀經濟報道記者肖瀟 北京報道
每個周,“合規週報”會盤點最近一週國外人工智能、科技競爭、個人信息保護上值得關注的動態。
本週,我們重點關注Kimi的動態,公司今日官宣了與財新的版權合作,並上線了一套信源質量徽章。Kimi告訴我們,現在該信源列表採取人工維護的形式,主要針對政府網站、教育官網等。
這是國內首家公開宣佈與媒體版權合作的案例,我們此前的測評已經有所報道。
此外,我們還注意到Anthropic近期報告的一項惡意使用案例——有營利組織利用Claude創建大規模的機器人賬號,提供“輿論引導服務”,而且AI不僅僅被用來生成內容,還可以自主評論、轉發、模擬真實互動。
在此前的AI幻覺測評中,我們發現Kimi有回答直接輸出了《財新》版權部分的內容,當時接近Kimi的人士表示,正在對雙方合作進行灰度測試,近期將公開消息。(詳見:https://m.21jingji.com/article/20250417/herald/93646b4236dffa9a8ffa7fab7299e678.html)
4月28日,Kimi母公司月之暗面在公衆號上表示,與財新傳媒達成合作,當用戶在 Kimi 提問財經相關內容時,Kimi 將結合財新傳媒旗下專業報道內容,通過模型生成答案
公司還稱,爲了幫助用戶識別高質量信源,近期上線了專業、權威信源的藍V徽章。點擊引用來源的名稱或鏈接,即可找到帶藍V徽章的專業信源,也可以方便地訪問內容原始出處。
21記者在4月28日上午進行了初步實測,目前Kimi的引用文獻中,《央視新聞》、《人民日報》、《中國日報》認證標識爲“新聞領域優質站點”,聯合國新聞(UN News)認證爲“國際組織站點”,《財新》認證爲“官方合作權威信源”。
Anthropic 警示:Claude 等 AI 被濫用引導輿論,AI機器人賬號氾濫
4月23日,美國公司Anthropic發佈了《檢測並打擊 Claude 的惡意使用》博文,稱Claude 等前沿 AI 模型正被惡意行爲者濫用,涉及“輿論引導服務”(influence-as-a-service)操作、憑證填充、招聘詐騙及惡意軟件開發等活動。
其中,“輿論引導服務”現象尤其值得注意。Anthropic發現,一個組織在 X 和 Facebook 上創建了超過 100 個機器人賬號,操作員爲每個賬戶創建了具有不同政治傾向的角色,利用AI傳播有政治偏見的內容。而且公司發現這是一項商業服務,服務於多個國家/地區具有不同政治目標的客戶。
Anthropic還指出,“輿論引導服務”與從前不同的是,組織者不僅僅使用Claude生成AI內容,還用AI來決定這些機器人賬號何時評論、點贊、轉發其他真實用戶的帖子。
“用戶開始用AI半自主地編排涉及衆多社交媒體bot的複雜系統。隨着AI智能體(AI Agent)的不斷改進,我們預計這一趨勢將持續下去。”公司寫道。
可保護作品免遭 AI 訓練,Adobe 推出 Content Authenticity 新應用
4 月 24 日,Adobe 推出新應用 Content Authenticity,並面向公衆開放測試。 用戶可以在該應用中上傳需要保護的圖像,應用就能嵌入隱形元數據和添加“禁止 AI 訓練”標籤,幫助確認作品歸屬、保護作品免遭 AI 訓練。
Adobe 表示,該網頁應用目前在公測期免費,未說明正式版是否收費。用戶只需擁有 Adobe 賬戶即可,支持批量處理最多 50 張圖片,目前僅支持 JPEG / PNG 格式,視頻及音頻支持顯示“即將推出”。
值得注意的是, Adobe 尚未與任何 AI 模型創建者簽署採用該標準的協議。這項隱形水印並不會因爲截屏、二次傳播等方式影響技術效果,但Adobe 無法保證所有 AI 公司都願意遵守。公司表示,正在與所有頂級 AI 模型開發人員進行洽談,以說服他們使用並遵守該標準。
微博AI智搜再次迴應隱私風波:會及時調整產品
近期有網友發現,微博的“AI智搜”頁面能精準鎖定個人賬號,通過過往發言,總結出情緒狀態、興趣愛好等個人畫像。有網友還質疑,即使設置了“僅半年可見”或“好友圈可見”的微博,也會被AI“公開處刑”。
4月22日,微博智搜在官方賬號否認稱,該產品在開發之初就將用戶隱私保護與數據安全列爲首要原則。以下非完全公開內容從未被納入智搜分析範圍:1、設置爲“僅自己可見/好友圈/粉絲可見”的微博內容;2、微博也不會通過智搜功能收集、存儲或分析用戶的非公開信息。
4月24日晚,微博智搜在其官方賬號表示,近期,他們收到不少網友關於“智搜搜索用戶暱稱”結果的反饋和負面看法,現已對該功能進行了調整,力求避免呈現對用戶造成不適和困擾的內容。
另外,認證爲“微博員工”的微博用戶“魚姜”表示,其前天做解釋時只關注到智搜真的沒有使用過用戶的非公開數據,但後來才發覺大家更在意的是對於自己賬號的“凝視”產生的不適。“產品機制已經改了,實在是不好意思。”
電商平臺全面取消僅退款
4月22日,據《北京商報》報道,拼多多、淘寶、抖音、快手、京東等多個電商平臺將全面取消 “僅退款”,消費者收到貨後的退款不退貨申請,將由商家自主處理。
記者還獲悉,上述電商平臺已就全面取消“僅退款”的相關細節與管理部門進行了多輪商討和修改,一旦審覈完成即對社會公開宣佈。
目前淘寶、拼多多、京東三家平臺向商家發佈意見公告,就“取消僅退款”徵求意見。淘寶在徵求公告中提到:“後續平臺將不主動介入消費者在已收到貨後的不退貨退款售後申請,由賣家先行與消費者協商處理。”