人工智能下半場 智能體技術重構安全生態

來源：中國產業經濟信息網

當前，人工智能作爲引領新一輪科技革命與產業變革的戰略性力量，已成爲培育新質生產力的核心引擎。國務院常務會議7月31日審議通過的《關於深入實施“人工智能+”行動的意見》，標誌着我國AI發展進入“技術攻堅+場景落地+安全護航”三位一體的新階段。

隨着人工智能發展進入下半場，智能體（Agent）技術加速突破實驗室邊界，深度融入產業核心領域，日益成爲驅動產業變革的關鍵引擎。

人工智能加速升級

“人工智能技術加速迭代，人工智能領域創新呈羣體性突破之勢，人工智能與實體經濟深度融合特徵更加明顯。”工業和信息化部原總工程師、中國互聯網協會專家諮詢委員會常務副主任趙志國在近日召開的第十三屆互聯網安全大會（ISC.AI 2025）上指出，人工智能和安全領域的結合日益緊密，不僅爲網絡安全提供了更具主動性和適應性的技術工具，更推動安全體系從被動防禦向智能驅動重構，其“安全能力倍增器”的效應正加速顯現。

中國工程院院士、英國皇家工程院院士、香港理工大學傑出講座教授陳清泉在ISC.AI 2025演講中指出，人工智能在推動新質生產力走向“高科技、高效能、高質量”的過程中發揮重要作用，要不斷突破現有科學界限，發揮科學世界的無限可能。

人工智能深入百行千業，爲高質量發展注入強大動能，大模型的突破引領人類社會進入智能化時代。360集團創始人、ISC大會主席周鴻禕在《ALL IN AGENT》主題演講中指出，大模型進化到智能體是必然的，智能體能夠理解目標、規劃任務、調用工具、具備記憶，實現從需求到結果的完整交付，將推動人機交互範式的根本性變革。

“但同時也要清醒地認識到，技術革新的背後，安全風險正在交織疊加，帶來的風險挑戰引發廣泛關注。”趙志國強調，一是技術脆弱性帶來內生安全風險，二是惡意利用放大安全危機，三是治理的複雜性日益凸顯。

爲助力人工智能行業實現高質量發展，推動人工智能技術創新應用與協同治理，廣大民營企業要把握時代機遇，全國工商聯黨組成員、副主席羅來君在ISC.AI 2025致辭中提出三點建議，首先要胸懷國之大者，主動融入國家戰略；其次要堅持開放式創新，促進成果加速落地；最後要共繪同心圓，打造智能向善的治理體系。

內生風險亟待破解

“當前隨着人工智能技術迅猛發展，網絡安全的危險持續攀升，如今黑客組織可以將黑客的經驗和能力訓練進大模型，打造智能體黑客，將人與人的網絡攻防變爲人與智能體的攻防，加劇了網絡的不對稱性。”第十三屆全國人大社會建設委員會副主任委員、國家互聯網信息辦公室原副主任、世界互聯網大會秘書長任賢良表示，去年以來，全球範圍內的網絡攻擊事件迅猛增加，攻擊手段複雜隱蔽，凸顯加強網絡安全措施和提高對新型威脅的響應能力的重要性。

任賢良表示，目前全球數字技術發展存在不平衡現象，部分國家和地區數字基礎設施建設薄弱，能力建設滯後，不僅難以享受互聯網發展的福利，也在面對網絡安全攻擊時暴露出更大的脆弱性。

他指出，隨着人工智能技術在各個領域的廣泛應用，安全威脅的形式也在不斷的演變。除安全漏洞供應鏈工具等傳統安全外，大模型也存在自身的系統安全、內容安全以及幻覺等特有的風險。面對全球網絡安全風險的新形勢，必須把創新作爲第一動力，促進科技成果的轉化應用，提升算力資源的供給，鼓勵模型算法創新，加速人工智能相關的技術與安全防護的深度耦合，賦能網絡安全創新發展。

“人工智能的網絡安全既是風險也是機遇，要在充分發揮人工智能潛力的同時確保其發展的安全性、可靠性、可控性和公平性，使其成爲守護安全造福人類的國際公共產品。”任賢良表示。

智能體革命重構安全攻防

隨着大模型向具身智能演進，智能體技術正在重構安全攻防體系。從被動防禦轉向主動免疫，從單點防護升級爲全域協同。

“推動AI技術和數字安全的融合發展成爲助力數字化建設、提速數字經濟發展的關鍵。”ISC名譽主席、教授鄔賀銓在致辭中表示。

鄔賀銓指出，基礎大模型展現出的通用能力雖然強大（是企業數字化轉型的基石）但在垂直領域的深度應用中卻面臨着專業知識不足、場景適應性有限的“最後一公里”挑戰。

周鴻禕同樣認爲，大模型能力越來越強，但僅有大模型是不夠的。過去大模型在企業應用中的兩大痛點--推理能力不足和缺乏獨立做事能力，前者在近一年已顯著改善，但後者仍未解決。“大模型缺少'手和腳'，不會使用工具，不能直接'幹活'。AI發展如果停留在大模型階段，只能成爲玩具，而非生產力工具。”

周鴻禕強調：“大模型進化到智能體是必然的。”智能體纔是解決之道。智能體是AI從“能思考”邁向“能做事”的關鍵載體，其發展將重塑產業形態，推動新質生產力加速形成。其核心在於使用工具的能力和利用大模型進行復雜任務規劃的能力。

周鴻禕認爲，人工智能的發展歷程中，智能體經歷了從基礎交互到自主協作的漸進式突破。早期的L1智能體僅能實現簡單知識問答，如同“聊天機器人”；L2工作流智能體雖能通過預設流程提升效率，卻仍需人類主導操作，靈活性受限；L3推理型智能體實現了單領域深度推理，如同“專業員工”，但面對跨領域複雜任務時，協同能力的短板逐漸顯現。

“專業的數據、專業的知識、專業的工具、專業的工作流、專業的安全大模型、專業的智能體打造平臺，每個環節都是安全智能體的構建壁壘。”周鴻禕在回答360打造安全智能體的優勢和壁壘時表示。

在周鴻禕看來，安全智能體不僅是對傳統安全的補充，更是重構數字安全體系的核心力量。在AI定義未來的時代，只有主動擁抱安全智能體，才能真正築牢數字安全防線。

隨着智能體從辦公場景深入生產核心，AI正成爲驅動產業升級的核心生產力。華爲ICTMarketing與解決方案銷售副總裁史振鈺表示，當前AI正處於從“答得妙”邁向“靠得住”的關鍵轉折的節點，要共建韌性智能體生態，共築可持續、可信賴的AI生產力未來，加速人工智能邁向規模化、產業化新階段。

百度智能雲副總裁、百度智能雲泛科技業務部總經理張瑋表示，企業智能化升級的核心是構建有業務價值的企業級大模型應用，這需要依託算力支撐、模型研發、數據智能處理、應用開發等多維度的AI基礎設施。

構築AI安全發展新格局

黨中央、國務院高度重視推動人工智能健康有序發展。一系列的政策舉措爲“人工智能+安全”工作指明瞭前進的方向、提供了根本的遵循。

趙志國表示，要聚焦深度學習框架、智能芯片等關鍵領域攻堅突破，加快自主創新步伐，提高安全發展能力。構建通用與專用相結合的模型體系。加快構建安全可靠、綠色高效的智能算力基礎設施，強化芯片、服務器等底層硬件的自主保障能力，築牢基礎設施安全底座。要堅持融合賦能，壯大產業發展生態。加強人工智能與安全產業的深度融合、雙向賦能。

一方面，以“人工智能+安全”深度融合培育壯大安全產業。另一方面，以安全能力建設保障人工智能產業發展壯大。要堅持協同共治，形成安全發展合力。積極推動“政產學研用”多元主體協同發力，在安全機制共建、技術攻關、規模應用、標準體系、人才培養等方面深化合作，構建“人工智能+安全”產業生態圈。積極推動並參與人工智能安全治理國際合作，聚焦模型幻覺、不可解釋性等技術風險，強化前瞻研判、交流合作、標準共建，推動形成具有廣泛共識的人工智能全球治理的架構和體系。

“應對'最後一公里'挑戰，破解之道在於深化協作：需要大模型技術提供方與金融、醫療、製造、能源、交通等垂直行業的龍頭企業、專業機構緊密攜手，深度理解行業知識圖譜與核心痛點，共同構建高質量的專業語料庫，爲模型注入行業靈魂。”鄔賀銓表示，必須着力降低應用門檻，探索“行業大模型即服務”等創新模式。

同時，加速大模型技術創新與架構演進，提升效率與可及性。持續聚焦模型效率優化，大力投入模型壓縮、高效訓練和推理加速等技術，在保持強大能力的同時顯著降低計算與能耗成本。

“這不僅關乎經濟效益，更是實現綠色可持續發展及推動AI向邊緣端、移動端普及的關鍵。”鄔賀銓說。

鄔賀銓還指出，要創新升級數字安全防護體系，構建AI驅動的主動免疫。數字安全企業應着力構建覆蓋預測、防禦、檢測、響應、恢復全生命週期的體系化安全運營框架，整合流程、人員與技術，形成閉環能力。更爲關鍵的是，要充分利用AI尤其是大模型的強大能力，賦能威脅狩獵、異常檢測與自動化響應，推動安全防禦從“事後補救”向“事前預警、事中阻斷”的主動免疫模式躍升。還要高度重視並保障AI系統自身的安全。

“我們迫切需要加強國際協作，人工智能與數字安全的挑戰是全球性的，單打獨鬥無法應對。我們需要在人工智能倫理準則、數據跨境規則、網絡安全威脅情報共享、關鍵基礎設施防護標準等領域深化對話，尋求共識。”鄔賀銓表示。（記者 曹雅麗）