創新 vs. 風險 考驗 AI 代理

蘋果要推「用講的就能操作App」的AI語音控制系統，業界認爲，這正是蘋果將AI代理落實的第一步，雖然Siri成爲iPhone的語音控制器，可能徹底改用iPhone的使用方式，但這項技術帶來的挑戰與風險不容忽視，蘋果因此相當謹慎應對。

AI代理服務已成各大科技巨頭AI爭霸戰新戰場，OpenAI今年推出名爲專爲知識密集工作者設計的AI代理「Deep Research」及包辦日常瑣事的「Operator」，亞馬遜將推出的Alexa也可能成爲使用者的AI代理。如輝達執行長黃仁勳所言，AI代理已逐漸成爲改變全球產業的關鍵技術。

不過，當AI開始代表人類行動，錯發敏感訊息或誤刷大額交易的風險就出現了。一旦Siri在金融或健康等不容出現閃失的領域失誤，後果將遠比報錯天氣嚴重。

因此，對銀行及其他敏感類別的應用，蘋果考慮大幅限制Siri操作權限，甚至可能將這些領域完全排除，顯示蘋果正在創新與風險控制之間，審慎拿捏平衡。

業界人士指出，儘管AI代理前景光明，但也面臨許多挑戰，除了失誤與不可預測性之外，AI可能延續訓練數據中的偏見，在招聘或司法等領域做出不公平決策，過度依賴AI也可能導致人類技能退化，或在系統失效時無力應對。

從安全與監管角度來看，業界人士認爲，AI代理若被惡意利用，可能助長詐騙或假訊息的散播，且AI決策過程複雜，責任歸屬難以界定。