AI真會毀滅人類？來WAIC現場找找辛頓劃重點的「AI安全」

21世紀經濟報道記者章馳 上海報道

7月26日-29日，2025年世界人工智能大會（WAIC）在上海召開。在今年的論壇上，辛頓等衆多大咖嘉賓都在呼籲大家重視AI安全和風險。展會現場很多廠商展示的AI產品和應用，正在越來越重視AI在各領域的安全風險把控。

記者在WAIC的展會上看到了AI換臉識別、PS圖片識別、文本真僞覈查、法律條款溯源和AI安全測試等應用實例。這些應用將AI安全融入金融、法律等行業，比如螞蟻集團的ZOLOZ通過技術識別真假人臉照片，可用於企業、用戶身份認證和反洗錢、交易欺詐風險等領域，金山集團的金山曉法通過法律條款溯源技術，規避大模型回答中的幻覺問題。

此前，諾貝爾物理學獎、圖靈獎得主傑弗裡·辛頓在2025世界人工智能大會開幕式上表示，希望能夠建立一個AI安全機構構成的國際社羣，研究訓練AI向善的技巧。如何訓練聰明的AI輔助人類，這是人類長期面臨的重要問題。圖靈獎得主、中國科學院院士姚期智也表示，AGI時代比想象中來得快，安全治理是一個長期工作。