詢問監控方案 OpenAI封涉中俄帳戶

OpenAI在7日表示,已封鎖多個疑似與大陸政府機構有關的ChatGPT帳戶,指出這些用戶曾要求AI模型提供用於監控社交媒體對話的方案。(中新社)

美國AI公司OpenAI在7日發佈報告時表示,已封鎖多個疑似與大陸政府機構有關的ChatGPT帳戶,指出這些用戶曾要求AI模型提供用於監控社交媒體對話的方案。另也封鎖部分疑似與俄語犯罪團體有關的帳戶,主因是這些帳戶曾試圖利用ChatGPT開發特定類型的惡意軟體。

據路透報導,OpenAI在最新發布的公共威脅報告(Public Threat Report)中指出,有用戶要求ChatGPT設計社交媒體監聽工具與其他監控計劃,此舉違反該公司針對國家安全設立的政策。

OpenAI報告表示,封鎖了多個使用中文的帳戶,指出這些用戶曾利用ChatGPT協助網路釣魚並進行惡意軟體活動,甚至要求模型研究藉助大陸AI平臺深度求索(DeepSeek)提升自動化程度;請求ChatGPT協助撰寫大規模監控方案,以此追蹤維吾爾族及其他「高風險人士」,甚至要求設計掃描Facebook、X等社交平臺涉及政治宗教言論的產品。

根據CNN引述OpenAI首席調查員尼莫表示,大陸內部正推動更善用AI技術進行大規模監控與偵察,「中共早就開始監控人民,但現在認爲AI或許能借此讓監控更精準。」

目前OpenAI旗下ChatGPT每週活躍用戶超過8億人。這家總部位於舊金山、由微軟支持的AI初創企業表示,相關行爲引發對生成式AI潛在濫用的擔憂,特別是在美中兩國日益激烈的科技競爭時刻。

OpenAI報告表示,從2023年2月開始定期發佈公共威脅報告以來,公司已識別並中斷超過40個可疑網路,並主動向相關機構通報,強調「未發現任何新型攻擊手法,也沒有證據顯示我們的模型爲這些威脅行爲者提供新攻擊方法。」

對此,大陸駐美大使館發言人劉鵬宇迴應,反對毫無根據的攻擊抹黑,強調大陸正在「快速建立具有鮮明國家特色的AI治理體系」,追求發展與安全的平衡,兼顧創新、安全與包容。同時大陸官方已推出涵蓋演算法服務、生成式AI及數據安全的重大政策規畫與法律規範。