國泰金採NVIDIA NeMo平臺 爲臺灣打造金融代理

國泰金控採用NVIDIA NeMo平臺爲臺灣打造金融代理,21日於NVIDIA GTC Taipei發表研究成果;圖左爲國泰金控副總樑明喬、右爲國泰金控數數發中心經理謝昌宏。(國泰金控提供╱洪凱音臺北傳真)

國泰金控21日宣佈,採用NVIDIA NeMo平臺,爲臺灣打造金融代理,並在NVIDIA GTC Taipei發表研究成果,顯示大型語言模型(LLM)處理專業金融知識方面的可行性,爲區域內具規模、特定領域的AI應用奠定基礎;國泰金亦提出,臺灣金融業導入AI智慧代理的發展藍圖,突顯國泰在技術領域的領導地位與對創新的承諾。

國泰金控副總經理暨國泰世華銀行數據長樑明喬表示,運用臺灣本地金融授信知識、法規文獻及實務案例等作爲訓練語料,在模型上利用NVIDIA NeMo框架進行預訓練(Pre-training)、微調(Fine-tuning)等技術手法,藉NVIDIA的加速運算,完成70至80億參數量的大型語言模型訓練。

樑明喬進一步指出,後續透過知識蒸餾(Knowledge Distillation)與NVIDIA NeMo Curator框架,擴增訓練資料達4至5倍,大幅縮短資料準備時間,亦輔以NVIDIA TensorRT框架加速模型評估流程;成果顯示,模型不僅能精準迴應進階金融問答,亦具備通過進階授信人員證照考試能力,展現AI在金融領域的應用潛力。

國泰金控使用NVIDIA加速運算平臺有成,展示金融機構如何結合專有和產業特定資料以超越基礎大型語言模型;樑明喬強調,國泰金控將持續與NVIDIA合作,推進更廣泛的金融知識,與實務應用能力的領域專屬大型語言模型(LLM)。

隨全球AI技術快速演進,AI Agent正成爲新一代人工智慧的發展趨勢;展望未來,國泰金控持續強化AI Agent的適應性推理、複雜決策輔助與情境感知任務執行等能力,從交易處理、服務自動化到智慧資訊擷取等多元應用,盼開啓以AI驅動的智慧金融創新服務新時代。