人工智能產能釋放再提升 江蘇銀行單卡部署千億大模型
近日,江蘇銀行依託國產芯片爲代表的混合算力架構,成功實現單張GPU計算卡千億級推理大模型的規模化部署。
據瞭解,該行從國產操作系統底層依賴庫入手,通過完全自主編譯與適配,構建新一代技術架構框架,成功兼容並穩定運行近期發佈的MXFP4量化算法。相較傳統方案,該模型在推理能力顯著提升的同時,實現計算性能3倍加速與硬件資源佔用減少75%的優化,大幅降低大模型使用成本並提升部署靈活性。
基於“專家經驗爲主,人工智能爲輔”的設計理念,該千億大模型構建了具備多種能力的智能體,並在業務材料錄入與審覈場景中率先落地運用。在電子流水授信材料鑑僞場景中,智能體通過自動化匹配鑑定規則、動態選擇工具鏈,在推理過程中精準執行圖片細節定位、二值化處理及元數據比對,並調用操作系統與瀏覽器等工具,自主訪問外部金融機構,交叉驗證文件有效性,在減少行員重複性勞動的同時,保障鑑別結果的精準性,有效提升鑑定流程效率。針對詢證函填寫及商戶進件等場景,智能體自主調度多模態識別工具,高效完成文本內容抽取與結構化表單生成,大幅優化錄入效率。
自上線以來,智能體已累計處理業務數萬筆,實現運營效率的顯著提升。
基於國產芯片爲代表的千億大模型單卡部署實踐,驗證了國產算力底座支撐金融核心智能場景的可行性,爲銀行業智能化轉型提供了更加安全可控的技術路徑。未來,江蘇銀行將持續深化人工智能技術研究與應用,構建全棧自主技術體系,推動科技與業務深度融合。通過持續拓展大模型在數字化經營與風控等領域的場景賦能,積極探索智能體在全行業務中的應用路徑,全面打造基於國產算力的人工智能驅動金融新生態。