監控社媒、開發惡意軟體！OpenAI封鎖多箇中俄可疑帳戶

OpenAIr封鎖多個疑涉及大陸官方的帳戶，這些帳戶過去曾要求生成監控社媒方案。（示意圖:shutterstock/達志）

美國人工智能公司OpenAI在當地時間7日表示，已封鎖多個疑似與大陸政府機構有關的ChatGPT帳戶，這些用戶曾要求模型提供用於監控社交媒體對話的方案。OpenAI還表示，該平臺已封鎖部分疑似與俄語犯罪團體有關的帳戶，這些用戶曾試圖利用ChatGPT開發特定類型的惡意軟體。

據路透社報導指出，OpenAI在最新發布的公共威脅報告（Public Threat Report）中指出，有用戶要求ChatGPT設計社交媒體監聽工具（social media listening tools）和其他監控計劃，此舉違反該公司針對國家安全設立的政策。

這家總部位於舊金山、由微軟支持的AI初創企業表示，相關行爲引發了對生成式AI潛在濫用的擔憂，特別是在美中兩國日益激烈的科技競爭之際。

該報告指出，OpenAI同時封鎖了多個使用中文的帳戶，這些用戶曾利用ChatGPT協助網路釣魚與惡意軟體活動，並要求模型研究如何藉助大陸AI平臺深度求索（DeepSeek）提升自動化程度。

OpenAI在報告中表示，從2023年2月開始定期發佈公共威脅報告以來，公司已識別並中斷超過40個可疑網絡，並主動向相關機構通報。