高通攜手IBM 實現企業級生成式AI規模化
高通與IBM從邊緣到雲端實現企業級生成式AI的規模化。圖/高通提供
全球科技巨頭高通與IBM於2025年巴塞隆納世界行動通訊大會(MWC)宣佈擴大合作,共同推動企業級生成式人工智慧(AI)解決方案於雲端與邊緣裝置的規模化應用。此合作旨在整合雙方技術優勢,提供企業更高即時性、隱私保護、可靠性與個人化體驗,同時降低營運成本與能耗,爲AI部署樹立新標竿。
IBM watsonx.governance整合至高通AI推論套組,IBM的AI治理平臺「watsonx.governance」將導入高通AI推論套組(Qualcomm AI Inference Suite),並支援搭載高通Snapdragon與Dragonwing平臺的裝置。該工具協助企業在規模化AI應用中實現負責任的治理,強化模型監控、風險管理與決策透明度,確保從邊緣到雲端的AI運作符合倫理與法規要求。
另外,IBM第三代旗艦語言模型「Granite 3.1」已針對高通AI Hub完成最佳化,開發者可透過平臺直接下載,於搭載高通晶片的邊緣裝置上部署高效AI應用。雙方進一步擴展合作,透過watsonx.governance爲裝置端模型提供治理框架,確保AI開發兼顧創新與責任。
高通雲端AI加速器系列通過Red Hat OpenShift認證,成爲首款支援此混合雲平臺的AI硬體解決方案。此認證簡化基於Kubernetes架構的大規模部署,企業可無縫整合IBM軟體生態系(含watsonx)與高通AI加速器,實現真正的混合雲端運作。
高通技資深副總裁暨技術規劃與邊緣解決方案總經理Durga Malladi強調:「透過與IBM深化合作,我們將尖端生成式AI從雲端延伸至邊緣裝置,協助企業在確保治理與可靠性的前提下,部署快速、低功耗且高度個人化的解決方案。」
基於雙方在CES展會宣佈的合作基礎,本次擴大合作將於Snapdragon 8 Elite參考設計與Qualcomm Dragonwing AI本地應用裝置上,運行watsonx.governance及Granite系列模型(含Granite Guardian 8B與Granite 3.1 8B)。該整合方案結合高通裝置端推理的低功耗、隱私保護優勢,與IBM的AI治理效能,協助企業應對安全性、效率與合規性挑戰。
開發者現可透過Qualcomm AI Hub取用優化後的Granite模型,並藉由高通開發者部落格掌握最新應用指南。隨着混合雲端認證落地,企業亦能加速部署涵蓋watsonx的AI軟體套組,開創智慧化商業場景。