北京前瞻人工智能安全與治理研究院成立 曾毅：引導AI安全發展

5月9日，新京報貝殼財經記者獲悉，經北京市民政局批覆，北京市經信局作爲主管單位，北京前瞻人工智能安全與治理研究院正式成立。

前瞻研究院將發揮科研機構與智庫平臺的雙重作用

北京前瞻人工智能安全與治理研究院院長曾毅對記者表示，此前研究院以“北京人工智能安全與治理實驗室”的組織形式籌建與運行了半年多，考慮機構和成果的延續性，英文名稱沿用實驗室時期的Beijing Institute of AI Safety and Governance (簡稱Beijing-AISI)。作爲新型研發機構和促進應用與產業發展的前瞻研究院以前瞻思想爲引領，服務於人工智能產業發展和安全治理的近期與長遠需求，通過開展人工智能安全與治理相關前沿基礎理論研究、關鍵技術研發、標準規範制定、平臺工具構建與服務，有效監測和防範人工智能的技術和社會風險，爲企業、社會和政府提供人工智能安全護欄與安全人工智能模型與服務。

前瞻研究院將發揮科研機構與智庫平臺的雙重作用，產出人工智能安全與治理相關的前瞻引領科學思想、制度與政策建議，並以科學與技術進展進行落地賦能與實踐，以安全與治理促進人工智能的可持續發展。

曾毅表示，美、英、日、韓、法、加、新等全球十數個國家分別成立了人工智能安全有關的研究院所與中心，以及諸多人工智能安全相關社會組織。作爲中國這樣負責任的創新大國中人工智能科技領先的城市之一，北京不僅要有所作爲，在人工智能安全領域發揮頭雁作用，更要在國際合作中團結國內兄弟單位擔當中堅力量。

作爲來自中國的機構，從籌建期的北京人工智能安全與治理實驗室到正式成立的北京前瞻人工智能安全與治理研究院，在全球人工智能安全與治理議題上發揮了獨特的作用。近期，前瞻研究院受邀在新加坡人工智能大會(SCAI 2025)介紹研究成果並組織專題研討，有關超級對齊的研究成果被大會成果文件《新加坡人工智能安全研究優先事項共識(The Singapore Consensus on Global AI Safety Research Priorities)》正面引用，在人工智能安全與治理的國際合作與交流中做出了有特色的貢獻。

安全是護欄治理是方向盤

無論是籌建期的“北京人工智能安全與治理實驗室”還是正式成立的“北京前瞻人工智能安全與治理研究院”，爲何其並沒有像國外的機構一樣只是強調了安全?對此，曾毅表示安全是護欄、必要時候的剎車，而治理不僅是風險防範，更是方向盤，引導人工智能應當向什麼方向發展，不應當進行何種誤用、濫用甚至是惡用。

“北京前瞻人工智能安全與治理研究院既是在各級政府機構支持下成立的新型研發機構，更是人工智能安全與治理科技與社會力量匯聚的平臺。前瞻研究院發源並落地於中關村門頭溝園京西智谷，匯聚了來自中國科學院自動化研究所、中國信息通信研究院、北京大學、清華大學、北京郵電大學等科研團隊力量開展深度合作，並聯閤中科聞歌、昇騰創新、瑞萊智慧、芯盾時代、智慧雲測等人工智能與安全企業共同開展人工智能安全研究與治理實踐，積極構築全球化交流平臺，建立健全覆蓋技術研發、風險評估、倫理審查、應急處置的全鏈條安全治理體系。”曾毅說。

曾毅表示，希望與更多的機構、企業、地方與各個國家形成深度合作，前瞻院必將爲北京、爲國家的人工智能安全與治理體系貢獻中堅力量，爲全球人工智能安全與治理的協作與合作貢獻中國聲音，以安全與治理引領人工智能的穩健發展，爲全人類與我們共同的未來。

新京報貝殼財經記者 羅亦丹

編輯 張曉翀 校對 陳荻雁