產業追蹤/消弭「赤字」 四挑戰待解決
人工智慧(AI)蓬勃發展,引發全球關注,不過,當中也潛藏不少風險,包括AI幻覺造成的錯誤與假資訊、AI技術被惡意利用、因過度依賴AI而導致的成癮等現象。民衆正邁入「深度懷疑時代」(Deep Doubt Era),「信任」成爲最稀缺也最關鍵的資產。
2024年世界經濟論壇(WEF)以「重建信任」爲主題。隔年發佈的《2025年全球風險報告》指出,「錯誤資訊與假訊息」成爲未來兩年全球十大風險之首,並點出生成式AI普及可能帶來的風險,可能是製造和大規模傳播錯誤訊息的工具。
「信任赤字」問題不僅存在AI技術應用,也早已出現在社羣領域。2018年,英國劍橋分析公司在未經用戶同意下,透過臉書蒐集約8,700萬筆個資,並應用於政治廣告與選舉操作,引發譁然。此事件導致Meta股價下跌,也讓全球用戶對社羣平臺的信任大幅下滑。當信任被侵蝕,用戶可能降低使用頻率,甚至轉向其他平臺。
在數位時代,信任不只是道德問題或法遵要求,更直接關係企業的商業價值與競爭力。高信任度的品牌能吸引消費者使用與回購,進而提升黏着度與終身價值。反之,缺乏信任的數位服務難以獲得用戶青睞與市場支持。企業若能建立完善的資料處理、內容審查與合規制度,有利於跨境合作,也能簡化驗證流程、降低審查成本、提升營運效率。
數位信任已從資安技術議題擴大爲牽動政府治理、企業經營與社會穩定的課題。數位信任是指人們使用數位產品與服務時,對其資料處理、安全性、隱私保護與系統的信心。企業面對的關鍵問題不再是如何開發更強的AI、系統平臺,而是如何讓消費者安心使用並持續互動。
數位信任的建構是一套交織技術、治理與文化價值觀的架構,涵蓋網路安全、身分認證、演算法透明、法規遵循、資料治理與倫理原則等面向,也需要整個供應鏈的利害關係人,包括資料擁有者、資料管理者、平臺營運商、服務提供者,甚至政府與第三方監管機構參與。
2019年OECD在《Enhancing Access to and Sharing of Data》報告中指出,建立可信任的資料共享架構,有助促進資料經濟成長與創新。這顛覆過往「信任成本中心」的觀念,顯示數位信任具備創造價值、帶來利潤的潛力,是驅動產業升級與轉型關鍵引擎。隨着企業與消費者依賴數位平臺進行交易與服務,對數位信任的期待與需求不斷提高,逐漸催生一條新興產業鏈:從身分驗證平臺、資料治理顧問,到AI內容審查與風險監控工具,數位信任相關解決方案正快速成爲市場新寵。
數位信任目前面臨四大挑戰:一、技術與資安投入成本高:對中小企業而言,要導入高規格的資安與驗證機制往往難以負擔。二、全球法規多元化發展中:各國在資料保護與AI治理標準不同,企業在跨境營運與資料治理上面臨合規困難;三、使用者數位素養不足:多數消費者對資料使用與AI運作方式缺乏認知與掌控力。最後、企業的治理成熟度不足:AI素養、法遵文化、內部治理能力有待提升,需強化安全性、透明度與組織協作機制。
在此挑戰下,數位信任的解方也愈加清晰。企業方面,可導入零信任架構、數位簽章、AI風險檢測等技術,建立可驗證、可監督的制度流程;政府應強化資料治理相關法制與監理機制,並加入如「資料自由流通並基於信任」(DFFT)等跨國協定,提升國際合作的信任基礎;社會也應推動數位素養教育,讓全民具備基本的風險辨識與信任參與能力。
若企業希望超前部署AI治理體系,可整合AI、資安、防詐、身分認證等數位信任核心領域,建構更完整的策略架構。基礎層面,應導入AI系統驗證與信任技術,並支撐整體信任架構的穩固根基;明確訂定AI治理目標與原則,形塑企業內部一致的信任文化。治理層需設計完善的合規流程與治理機制,釐清各部門責任分工,並結合合規取證與風險識別機制。生態層面需主動與技術供應商、產業夥伴與主管機關建立合作機制,強化整體AI應用的可信度與市場接受度。
數位經濟持續深化、平臺紅海競爭激烈,「信任」將是企業脫穎而出的關鍵;誰能率先建構透明、可控、負責的數位信任架構,就有機會搶佔未來數位市場的主導權。(作者是資策會MIC產業顧問)