假人工智能，真“人工”勞動，AI 應用創始人被控欺詐5000萬美元投資｜南財合規週報（186期）

21世紀經濟報道記者肖瀟 北京報道

每個週日，“合規週報”會盤點最近一週國外人工智能、科技競爭、個人信息保護上值得關注的動態。

本週，我們重點關注一份美國司法部最新公佈的起訴書，指控一家美國初創公司編造了AI創新故事，欺詐5000萬美元投資。相關人士表示，還在追捕更多這樣的案例。

此外，MCP服務成了AI圈的新熱詞，我們關注到阿里雲、谷歌都在佈局，這一標準與AI智能體的發展緊密相關。

4月9日，美國司法部和聯邦調查局（FBI）公佈了一項起訴書，指控 Nate公司前CEO Albert Saniger虛假陳述公司的AI技術，“編造一個關於根本不存在創新的虛假故事，從而誤導了投資者。”

2018年，Albert Saniger創建了電商應用Nate，將推廣爲一款自動購物的AI應用——把結賬流程簡化爲“一鍵式操作”，允許用戶“跳過結賬環節”。

宣傳中的Nate和現在一些AI智能體有點類似。比如，如果消費者在某個電商網站上找到了一雙想買的運動鞋，只需打開Nate並點擊“購買”即可。Nate聲稱可以通過AI處理剩餘流程：選擇合適的尺碼、輸入賬單和配送信息、確認購買。

但起訴書指出，事實上Nate 嚴重依賴海外的人工團隊，模仿出自動化操作。公司位於菲律賓的呼叫中心僱傭了數百名承包商（或稱“採購助理”），手動完成 Nate 應用上的購買交易。

而且Albert Saniger明知Nate的自動化率實際上爲零，仍對外宣稱使用AI實現自動化。他要求員工對 Nate 的自動化率保密，限制員工訪問 Nate 的“自動化率儀表盤”，還爲自己的保密行爲提供了虛假解釋，例如自動化數據是“商業機密”。

通過虛假宣傳，Albert Saniger從多位投資者手中籌集了超過 4000 萬美元。美國紐約南區一位代理檢察官在採訪中稱，“這種欺騙行爲不僅傷害了無辜的投資者，還會轉移合法初創企業的資金，使投資者對真正的突破產生懷疑，並最終阻礙人工智能發展的進程。”他表示，目前正和FBI調查合作，“追捕那些通過兜售虛假創新來損害投資者利益的人。”

AI的原料仰賴於大量人工工作，許多基礎工作會外包給勞動密集型地區——越來越多人開始關注數據標註師和勞工權益問題。2023年，《華盛頓郵報》曾曝光另一家位於菲律賓的“數字血汗工廠”，主要工作是爲AI訓練數據和信息標註，比如標記圖像，幫自動駕駛算法區分行人和棕櫚樹。

前僱員表示，至少有 10000 名工人在名爲 Remotasks 的平臺上從事這項工作，該平臺由價值 70 億美元的美國數據標註公司 Scale AI 所有。微軟、谷歌、Meta、OpenAI等AI頭部公司都與Scale AI 合作。但根據員工採訪、公司內部信息、工資記錄以及財務報表，Scale AI 的工資極低，經常拖欠或扣留工資，並且幾乎沒有爲員工提供任何補救渠道。

菲律賓是世界上最大的外包數字工作目的地之一。據2023年菲律賓政府非正式估計，超過200萬人從事此類“衆包工作”，但跨國和零碎微任務的特點，讓“衆包工作”很容易規避當地的勞工法規，目前缺乏正式的監管保護機制。

4 月 7 日，包括《紐約時報》、《華盛頓郵報》、《衛報》在內的數百家媒體發起了一項廣告宣傳活動，敦促華盛頓政府保護版權內容免受AI“偷竊”。

這項名爲“支持負責任的人工智能”的活動由新聞媒體聯盟運營，由幾條將在印刷版和網絡上發佈的廣告組成。每條廣告都包含“警惕AI”、“阻止AI盜竊”和“AI也會竊取你的信息”等短語，底部的文字還補充：“偷竊不僅僅發生在美國地區。告訴華盛頓，讓大型科技公司爲其竊取的內容付費。”

活動的發起者爲“新聞媒體聯盟”，其前身爲美國報業協會，是非營利性質的行業協會。活動首頁提出了三個明確要求：

幾周前，特朗普領導下的白宮提出了“AI行動計劃”。我們此前的週報提到，OpenAI 和谷歌當時致信白宮，敦促其允許AI對受版權保護的內容進行訓練。OpenAI 認爲，對版權內容合理使用“事關國家安全”。

4月11日，愛爾蘭數據保護委員會（DPC）宣佈，已對馬斯克旗下的社交媒體平臺 X 公司展開調查，原因是該公司涉嫌使用從歐洲用戶處收集的個人數據來訓練其人工智能聊天機器人 Grok。

據報道，DPC 將調查 X 如何處理歐洲用戶在公開帖子中所涉及的個人數據，以用於訓練AI模型。2024 年，X 公司在未明確告知用戶的情況下，將用戶數據共享給馬斯克的人工智能公司 xAI，用於訓練 Grok。上個月，馬斯克才宣佈 xAI 已收購 X 公司。

4月11日，“公安部網安局”在官方公衆號上公佈了一則行政處罰，表示有一張關於燃氣漲價的不實信息圖片在網絡羣組流傳。

據“公安部網安局”介紹，該信息由網民鄭某發佈。鄭某使用某AI工具，提出帶有“南寧”“燃氣”“漲價”等關鍵詞的詢問後，AI工具給予了以上回復。鄭某得到信息後，在未覈實信息真實性的情況下將該信息直接截圖，發送至互聯網羣組中。因有關內容涉及民生領域，造成該謠言信息快速傳播。

目前，公安機關依法對鄭某處以行政處罰。警方提示，未經覈實的AI生成內容請勿直接公開發布，防止誤導性信息傳播

4月10日，廣東省在中小學人工智能教育新聞發佈會上正式發佈“兩素養一綱要”方案，即《廣東省中小學教師人工智能素養框架(試行)》《廣東省中小學學生人工智能素養框架(試行)》《廣東省中小學人工智能課程指導綱要(試行)》，明確中小學校的人工智能教育要求，推進中小學人工智能教育落地。

在兩份“素養框架”中，教師素養框架包括意識理念、知識技能、實踐應用、專業發展、社會責任等5個維度；而學生素養框架包括人智觀念、技術實現、智能思維、倫理責任等4個維度。

具體課時方面，方案指出，原則上小學 1-4 年級每學年不少於 6 課時，小學 5-6 年級每學年不少於 10 課時，初中 7-8 年級不少於每兩週 1 課時，高中階段在信息科技和通用技術等國家課程實施基礎上，在高一或高二不少於每兩週一課時。

自2024年12月起，南財合規科技研究院、21世紀經濟報道競爭秩序場課題組推出了系列報道，實測了多款AI手機智能體，發現了手機終端、第三方大模型、APP以及雲服務等參與方數據安全上的責任關係不明確；用戶對個人信息的知情權與自決權無法有效落地；無障礙功能的使用混亂、管理分散、授權提示不到位等問題。

爲此，南財合規科技研究院接連舉辦了業內首個端側AI治理的研討會、發佈AI智能體報告、發出南財倡議，呼籲加強無障礙功能權限管理，提升無障礙功能調用透明度。

這些舉措旨在推進行業健康發展，也在得到陸續迴應。

據中國軟件行業協會（CSIA）官網4月8日發佈的消息，《移動互聯網服務可訪問性安全要求》團體標準近日發佈。該團體標準指出，當前利用智能體等AI技術訪問移動互聯網服務，引發了安全風險、用戶權益保護等問題。

對上述問題，該團體標準作出了相應規範，具體包括：

一是禁止濫用無障礙服務。應謹慎爲智能體等AI技術開通無障礙服務，開通無障礙服務必須經過用戶明確授權；應在隱私政策中聲明無障礙權限的使用目的、使用場景和數據處理方式，僅在聲明的目的範圍內使用無障礙服務，不得將無障礙服務用於其他目的。

二是保障用戶權益。智能體進行用戶意圖識別、通過第三方App執行各類任務時，不得侵害用戶及其他主體的數據權益；應向用戶明確告知收集的數據將如何處理，不得未經授權收集和處理數據，涉及向第三方共享數據、將用戶個人信息上傳雲端處理的需額外說明。

三是雙重授權。智能體等AI技術進行用戶意圖識別、通過第三方App自動執行任務，應遵循“雙重授權”原則，即先通過第三方App授權，並在獲得用戶授權後執行。

四是禁止利用系統權限優勢，干擾第三方App運行。操作系統不得利用系統權限優勢，在第三方App授權前獲取第三方App數據，調用第三方App功能，干擾第三方App正常運行。

CSIA爲非營利行業組織，《移動互聯網服務可訪問性安全要求》爲指導性建議，非強制實施。

4月9日，阿里雲在北京召開“AI勢能大會”，同時宣佈於阿里雲百鍊平臺上線了業界首個全生命週期MCP服務，即連接MCP服務後，無需用戶管理資源、開發部署、工程運維等工作，幾分鐘便可快速搭建一個Agent（智能體）。

MCP服務（模型上下文協議）是一個標準化協議，用於連接 AI 智能體和各種外部數據源，旨在讓AI 更方便執行任務、調用外部工具。

據悉，百鍊平臺首批已經上線了高德、無影、Fetch、Notion等50多款阿里巴巴集團和三方MCP服務，覆蓋生活信息、瀏覽器、信息處理、內容生成等領域。

MCP標準由美國AI公司Anthropic在去年年底推出。就在幾周前，OpenAI宣佈將採用這家競爭對手開發的MCP標準。上週三DeepMind公司的CEO也在社交平臺上表示，會在Gemini中加入這份MCP服務，但尚未透露具體時間表。