玉山金導入NVIDIA H100試驗防詐預警 效能提升880倍
玉山金控科技長張智星21日於NVIDIA GTC Taipei以「打造全方位金融 AI:驅動理財與防詐創新」爲題分享,推出兩大AI核心計劃。圖/玉山金提供
玉山金(2884)爲輝達(NVIDIA)合作伙伴,金控科技長張智星21日於NVIDIA GTC Taipei以「打造全方位金融 AI:驅動理財與防詐創新」爲題分享,推出兩大AI核心計劃,期以更智慧、快速的服務提升客戶體驗。其中,玉山已導入NVIDIA H100 GPU進行防詐預警模型實驗,運算時間從傳統CPU的206分鐘大幅縮短至僅14秒,效能提升速度高達880倍。
玉山說明,首先,玉山打造全新AI代理(AI Agent)平臺,透過單一對話介面整合多元專業代理人,並以標準化架構加速開發與安全測試。同時導入NVIDIA H100 GPU與NeMo,不僅大幅提升運算效能,更有效降低成本;由於AI代理本身就是生成式AI的一環,所以在生成式AI方面,玉山將於確認技術可行、安全可靠後,與主管機關在金融科技產業聯盟的架構下討論相關標準,穩健推動對外服務。
其次,玉山將圖分析(Graph Analysis)技術嵌入現有防詐金流模型,讓複雜交易關係一目瞭然,偵測準確度提升兩倍;並藉由NVIDIA Rapids及H100 GPU加速,端到端詐欺偵測模型訓練流程較以往快上約880倍。玉山表示,這兩項創新應用不僅強化內部作業效率,更爲使用者帶來更安全、便捷的智慧金融服務。
張智星指出,目前涉及防詐模型的運算量最大,畢竟銀行從上午9點開始營業,金流量相當大,尤其要根據現有警示帳戶去提前研判未來可能警示帳戶。因此,結合GPU加速與圖譜資料結構進行即時金流異常分析與詐騙預警,透過NVIDIA H100 GPU加速運算,將整體端對端的運行時間從CPU的12,360秒(約206分鐘)和V100 GPU的46秒,大幅縮短至僅14秒,實現高達880倍的效能提升,並使即時預測成爲可能。