周鴻禕警告:黑客利用AI打造"智能體",單人可操控多重攻擊

周鴻禕指出,大模型降低了技術使用門檻,安全領域也受影響。如今,無編程基礎的人也能通過設計指令操控大模型執行危險操作,“注入攻擊”已經出現。

黑客還利用AI升級攻擊手段,嘗試將自身能力和經驗嵌入大模型打造“黑客智能體”。一旦有足夠算力,單個黑客就能操控多個智能體攻擊,顛覆傳統網絡安全攻防格局。

周鴻禕認爲,網絡安全從人與人對抗變爲與算法、機器、算力對抗,安全企業必須轉型,打造“智能體安全專家”,以算法對抗算法。

本文源自:金融界

作者:電報君