Gartner 指跨境式 GenAI 引起 AI 相關資料外洩比率將逾40%

國際研究暨顧問機構Gartner預測，到2027年，跨境生成式人工智慧（GenAI）引起AI相關資料外泄比率將超過40%。主要是GenAI在終端使用者中普及速度已超過資料治理與安全措施發展速度，而支援這些技術所需集中算力引發對資料當地語系化之擔憂。

Gartner研究副總裁Joerg Fritsch表示，由於監管不力，常常會發生意外跨境資料傳輸，尤其是當GenAI被集成到現有產品但卻無明確說明或公告時。企業注意到員工使用GenAI工具創作內容的變化。雖然此類工具可用於經過批准業務的應用，但如果它們將敏感提示發送到託管在未知位置的AI工具和API，就會產生安全風險。

Gartner指出，缺乏全球統一的AI和資料治理最佳實踐與標準導致市場碎片化，企業不得不制定針對特定地區戰略，加劇企業所面臨挑戰，這可能會限制企業在全球擴展業務和從AI產品與服務中獲益能力。

Joerg Fritsch表示，當地語系化AI政策增加管理資料流程和保持品質複雜性，而這會降低企業運營效率。爲保護敏感性資料和確保合規性，企業須投資先進的AI治理和安全性。這一需求可能會推動AI安全、治理與合規服務市場增長並促進提高AI流程透明度和可控性技術解決方案發展。

Gartner預測，到2027年，全球所有主權AI法律法規都將要求企業落實AI治理。爲降低AI資料泄露風險，尤其是跨境GenAI濫用風險並確保合規性，Gartner建議企業採取以下戰略行動：

1.加強資料治理：企業須擴展資料治理框架並加入關於使用AI處理資料準則，確保遵守國際法規並對意外的跨境資料傳輸進行監控。爲此，企業需將資料沿襲和資料傳輸影響評估納入常規隱私影響評估。

2.成立治理委員會：成立委員會加強AI監督，確保AI佈署和資料處理溝通透明。該委員會需要負責技術監督、風險和合規管理以及溝通和決策報告。

3.加強資料安全性：使用先進技術、加密和匿名化保護敏感性資料。例如，驗證特定地理區域的執行環境是否可信並在資料必須離開這些區域時使用差分隱私等先進的匿名化技術。

4.投資TRiSM產品：爲專爲AI打造的信任、風險和安全管理（TRiSM）產品與功能規劃和分配預算，包括AI治理、資料安全治理、提示過濾和編輯以及非結構化資料合成生成。Gartner預測，到2026年，採用AI TRiSM控制措施的企業將減少至少50%不準確或不合法資訊，因此減少錯誤決策。