涉人工智能安全！官方徵求意見

中新經緯3月27日電 據中國信通院網站27日消息，工業和信息化部人工智能標準化技術委員會秘書處組織編制了《工業和信息化領域人工智能安全治理標準體系建設指南(2025)(徵求意見稿)》(以下簡稱《指南》)，現面向社會公開徵求意見。

近年來，我國人工智能產業在技術創新、產品創造和行業應用等方面實現快速發展，在人工智能安全治理標準制定方面也取得了一定進展，但仍面臨數據安全、網絡安全等方面挑戰。《指南》提出了2個階段的建設目標，具體來看：

短期目標(1-2年)：急用先行，快速突破。初步構建工業和信息化領域人工智能安全標準體系框架，明確標準體系的總體架構、分類和關鍵標準領域。制定一批急需急用的標準，爲行業提供基本的安全規範和技術指導。推動相關標準的試點應用，在部分重點企業和項目中開展標準實施的驗證和反饋工作，及時發現和解決標準在應用過程中存在的問題，爲標準的完善和推廣奠定基礎。

長期目標(3-5年)：全面保障，產業落地。完善工業和信息化領域人工智能安全標準體系，補充和細化各領域的安全標準，涵蓋人工智能系統的設計、開發、部署、運行、維護等全生命週期，覆蓋工業和信息化領域人工智能應用的各個方面，並促進與國際標準的對接協調。同時，加強標準的推廣應用，規範工業和信息化產業主體人工智能應用，提高行業整體的安全水平，爲傳統產業的高端化升級和前沿技術的產業化落地提供有力保障。

智算中心安全方面，《指南》提到，規範面向人工智能的算力中心安全要求，包括面向人工智能的大規模計算集羣、新型數據中心、智算中心、算力網絡等基礎設施的安全要求，訪問控制、加密傳輸等網絡安全、數據安全、信息安全技術要求標準，以及安全防護、應急響應等管理標準。

在應用安全上，《指南》提及了六方面內容：

1. 新型工業化應用安全。規範人工智能技術在製造業全流程智能化的應用安全要求，包括工業研發設計、中試驗證、生產製造、營銷服務、運營管理等製造業全流程網絡安全防護、評測指標與方法、安全運營、風險評估等標準。

2. 行業應用安全。規範人工智能在不同行業中的應用安全要求，涵蓋人工智能行業應用安全開發、監控審計等能力評估，人工智能應用的安全架構框架要求，應用數據隱私保護、合規性要求規範，人工智能應用的安全測試評估方法。

3. 智能產品安全。規範人工智能技術和產品在具體應用場景下的安全要求，包括智能機器人、智能運載工具、智能移動終端、數字人、智能系統、生物特徵識別終端等智能產品安全防護與檢測標準。

4. 智能服務安全。規範面向特定業務場景提供的人工智能服務安全保障要求，包括智能軟件開發安全、智能設計安全、模型即服務安全、生成式人工智能服務安全、生物特徵識別服務安全、智能產品輔助操作安全、智能服務安全運營、智能服務安全風險評估、智能服務安全保障能力評價等標準。

5. 智能體安全。規範以通用大模型爲核心的智能體實例安全要求，包括智能體內生安全、智能體數據接口安全、人機協作安全、智能體自主操作安全、多智能體協作安全等標準。

6. 信息安全。規範深度合成、生成式人工智能等在應用過程中的內容安全等方面的要求，制定安全規範和評估方法。規範利用深度合成和生成式人工智能技術生成內容、算法審覈及評估、合成鑑僞檢測技術等內容管理的安全要求，包括生成內容的模型引導、模板製作、內容審覈等方面的技術規範要求，算法審覈及評估的算法機制機理審覈、信息發佈審覈、涉生成違法違規內容審查等能力評估，合成鑑僞檢測技術的測評要求、評測方法和工具箱、指標體系等評價標準。(中新經緯APP)