輝達合作夥伴！國泰生成式AI 可望年底上線給客戶體驗

國泰金（2882）成爲輝達戰略合作伙伴，展望未來AI代理實際運用情境與想像。圖／國泰金控提供

國泰金（2882）成爲輝達戰略合作伙伴，展望未來AI代理實際運用情境與想像，國泰金控副總經理劉浩翔21日指出，從技術實現層面需具大型語言模型（LLM）扮演AI大腦。當給予AI代理任務，AI分析情境後提供解決方案，根據不同情境涉及重大性的會提供各類建議方案讓使用者自己做決策。至於生成式AI方面將給客戶更好的數位互動體驗，他透露可期待今年第4季上線。

劉浩翔說明，未來AI代理從技術實現層面首先需要具備大型語言模型扮演AI大腦，此外必須給AI工具庫，使AI具有調用工具能力，例如串接行內系統等。另AI也需要記憶能力，給予外掛記憶庫，作爲儲存長短期記憶之處。

其中AI大腦最爲關鍵，他舉例，在和AI互動過程中，當給予AI代理任務後，它能自己規畫透過何種步驟完成。例如指令是「小孩明年出國留學，自己資金不夠該怎麼辦？」，AI經分析相關情境後規劃財務需求，提供解決方案，並根據不同應用場景提供建議方案，例如短期信貸等，交由客戶選擇並做決策。

當如果是較不具重要性的場景時，諸如訂便當、預定會議室等，則可以讓AI自己做決定。意即依據情境的影響程度，設定決策權由客戶或AI決定。劉浩翔強調整個流程從AI早期任務規劃、到提供方案，最後依照不同情境交由誰下決策。