華爲ModelEngine AI平臺全面支持DeepSeek大模型本地部署
觀點網訊:2月6日,華爲DCS AI全棧解決方案中的核心產品ModelEngine AI平臺,宣佈全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優化,旨在加速客戶AI應用的快速落地。
ModelEngine作爲大模型訓練、推理和應用開發的AI平臺,提供從數據預處理到模型訓練、優化及部署的一站式服務。
ModelEngine基於升騰AI芯片,通過推理框架優化和MoE存算協同,提供動態換入換出和全局統一緩存,實現推理高併發和低時延,用戶通過ModelEngine體驗DeepSeek更加快速高效的推理能力。
此次更新,ModelEngine全面支持DeepSeek系列模型R1&V3 671B以及蒸餾系列模型,開發者可通過ModelEngine實現“一鍵部署”,省去硬件選型、兼容性驗證和環境配置等繁瑣步驟,大幅降低企業AI應用門檻。
此外,ModelEngine通過其高度的開放性和模塊化設計,極大地縮短了DeepSeek的本地部署時間,提供負載均衡、模型安全接入、多用戶配額管理等高階特性,支持大規模生產環境下的穩定運行。
免責聲明:本文內容與數據由觀點根據公開信息整理,不構成投資建議,使用前請覈實。