《科技》趨勢科技：新ChatGPT代理隱藏四大風險

趨勢科技資深技術顧問簡勝財表示，最新的ChatGPT AI代理不再只是會回答問題的AI，轉而變成是『代表使用者行動的AI』。這一發展進程正成爲人類邁向『自主AI』的重要轉捩點，將自動化、推理和自主性能力以前所未有的規模結合在一起，徹底改變一切的行爲模式。然而，其隨之而來的風險包括提示詞注入、同意疲勞到跨應用程式的攻擊手法等，也使得今日的資安攻擊面呈現出更具個人化、更深層嵌入以及更爲迫切的態勢。

趨勢科技統整四項主要風險，包括：1.自主執行增加惡意操縱風險：新的ChatGPT AI代理可以在最少人工監督下運行。如果被攻擊者利用，它可能會在人類無法察覺的情況下在現實世界採取行動，如：將電子郵件寄給非預期的收件者，或刪除重要資料；2.加劇提示詞注入的資安風險：攻擊者可在網頁或應用程式中植入隱藏指令，當AI代理進行存取時，便可能觸發惡意行爲，對使用者而言往往是難以預見的風險；3.對使用者瞭解深入而引發隱私問題：新ChatGPT AI代理持續學習並偵測使用者的行爲和偏好。如遭遇攻擊，可能會引發敏感資訊和隱私外泄問題，包括行事曆上的私人行程、平臺上的帳戶資訊等；4.同意疲勞和過度信任：使用者可能對批准相關的請求感到麻木，因而盲目授權AI執行關鍵的操作。這樣的情況在企業裡、常需要處理許多敏感資料工作的環境來說是個嚴重問題。