《科技》創鑫智慧推N3000晶片搶攻AI推論市場 COMPUTEX首秀
此次展出的N3000與Viper系列,不僅全面支援Intel與AMD平臺,亦相容Ubuntu與Windows系統,滿足企業多元應用需求。劉景慈表示,Viper加速卡爲半高半寬設計,單卡支援14B參數模型、雙卡達24B、四卡更可處理高達70B參數,涵蓋Llama、Mistral、Gemma等多款熱門模型。
董事長林永隆補充,Viper卡平均功耗僅45瓦,遠低於主流方案,爲高耗能的LLM運算提供節能新選擇。創鑫智慧解決方案另強調「一次買斷、無訂閱費」優勢,不僅降低企業長期營運成本,也強化資料安全性與AI資產控管。
本次展會,創鑫智慧將與新加坡楓葉資訊科技、工業電腦品牌超恩攜手,展示其硬體廣泛相容性與無需額外供電的AI應用能力。高登智慧與myLLM也將展示整合應用成果,高登以其「ShareGuru SQLPilot」結合創鑫加速方案打造地端會議記錄與查詢分析系統,應用其Multi-Agent技術,提升自然語言查詢效率與準確性。myLLM則將展出「myPDA」平臺,提供雲地整合、多模型支援與斷網運行能力,廣泛應用於製造、醫療、教育等領域。
創鑫智慧亦已成爲國家實驗研究院國網中心推論硬體成員,透過TAIWAN AI RAP平臺協助政府網站提供生成式AI客服服務,不僅降低雲端成本,也確保混合雲架構下的資料安全與隱私保護。