AI幻覺衝擊合規防線，“大模型不金融”困局待解

2025年是AI應用元年，金融行業正經歷一場以“垂直化AI”爲核心的深度變革。安永最新報告顯示，中國金融科技市場規模已突破4.59萬億美元，預計2030年將達9.97萬億美元，年複合增長率達13.8%。

當前，包括銀行、保險、基金等金融機構已完成多類通用大模型的本地化部署。行業人士對記者稱，大模型與專業知識庫的結合是AI落地的未來趨勢。

金融AI的知識基建：從通用到專屬

具體看來，AI正逐步滲透金融領域，從風險管理到客戶服務、從投資決策再到支付安全。

易方達投顧金融科技負責人劉瑋對第一財經分析稱，DeepSeek的出現令金融機構以更具成本效益的方式運用AI技術，也催生出更多智能化應用場景。金融機構積極跟進，紛紛完成多類通用大模型的本地化部署，也有越來越多基於專有數據與知識的領域模型及AI應用的創新。

那麼AI在金融領域要實現精準應用，光DeepSeek就夠了嗎？

燕道數科CTO袁考明透露，以保險領域爲例，大模型因缺乏專業級的精算數據和監管規則庫，“AI幻覺”仍是不容忽視的問題。例如，在產品定價或條款解釋中，AI可能生成不符合監管要求或實際情況的回答。那麼在強監管、高精度的保險、以及整個金融行業，這一問題不僅影響決策效率還可能帶來合規風險。

Vectara實驗室最新測評顯示，主流大模型DeepSeek-R1的幻覺率高達14%，而南都大數據研究院發佈的《2024 AI風險白皮書》也提到，被記錄的220起風險事件中，技術濫用（50%）、決策倫理爭議（24%）與虛假信息傳播（20%）構成三大風險集羣，疊加數據泄露等安全隱患，折射出AI治理體系升級的迫切需求。

“站在投顧的角度，也要求在技術的使用上需要負責任地使用AI。”劉瑋分析稱，投顧機構應重視擁抱AI以降本增效，培養複合型人才，明確AI應用邊界，強化數據保護，堅守買方立場。這要求從業人員要學習AI知識技能，提升合規意識，維護客戶利益與隱私安全。

在法律層面，早在2023年8月，由網信辦等七部門發佈的《生成式人工智能服務管理暫行辦法》（下稱《辦法》）正式施行，《辦法》明確要求生成式AI服務提供者需建立數據合規、算法透明、生成內容管理等六大機制，隨着《辦法》的實施，中國AI產業的治理與規範化水平日益發展和成熟。

目前監管框架的完善正爲行業劃定邊界。國家金融監督管理總局此前強調，AI應用需堅持技術中立原則，重點防範數據濫用與算法歧視。

數據資產待沉澱

隨着生成式AI技術加速滲透各行業，數據資產沉澱與風險治理成爲制約技術落地的核心挑戰。

金融領域因其數據密度高、專業性強，暴露出垂直行業數據供給不足的問題。

“當我們通過AI應用諮詢金融問題的時候，即便接入DeepSeek等前沿大模型，回覆的完整性和準確性往往都不盡如人意。”盈米基金相關負責人告訴記者，這並非源於模型本身推理能力的侷限，而是金融領域專業數據的結構性缺失。

該上述負責人透露，該機構目前的應對措施是構建多元混合大模型技術底座，同時體系化梳理公司的數據資產，將前期積累的財富管理知識圖譜轉化爲機器可讀的知識庫，通過API接口賦能AI模型訓練，以期破解"金融大模型不金融"的行業困局。

燕道數科的解決方案也在“AI壽險工具”中採用了多模態混合引擎結合行業內部數據形成專有知識體系。“與專業數據庫深度融合，能夠準確理解保險領域的複雜邏輯。”袁考明稱，此外還有整合保險產品知識、費率表、利率曲線及監管政策等全市場數據，構建動態知識庫。以及分層多數據源混合存儲策略，並結合專業領域模型微調，通過意圖分析理解進行高效且精準的數據調用，減少無效計算，目前該解決方案已在多家壽險公司投入測試及應用。

“數據質量與知識含量，是發揮AI價值的關鍵前提。”安永大中華區科技諮詢服務主管合夥人顧卿華此前對第一財經稱，機構需通過數據要素的全生命週期管理、AI可信體系構建等措施，來釐清AI應用場景與建設路徑。此外，擁抱AI的目標並不是替代人，而是讓人類專注於決策創新與情感交互。

業內人士指出，未來AI破局需“數據+風控”雙驅動，深化數據要素配置，構建全週期風控體系。隨着監管完善，技術與倫理協同將成AI發展關鍵。