第四範式推出SageOne Lite,可8.8萬元運行滿血版DeepSeek
3月25日消息,第四範式今日發佈大模型推理一體機解決方案SageOne Lite,售價8.8萬元,可在本地運行滿血版本的DeepSeek。
SageOne Lite基於KTransformers架構,支持單機運行完整模型服務,提供極致性價比。該方案集成了ModelHub平臺,支持模型管理及不同模型服務的靈活切換,可以根據需求快速調整模型服務。
一體機還內置智能算力池化管理平臺,採用第四範式的GPU資源池化(vGPU)技術,可對算力和顯存進行智能切分,動態調度計算任務,支持不同尺寸大模型之間的靈活切換,提升GPU資源利用效率。
SageOne Lite搭載大模型開發平臺及開箱即用的AI應用套件,涵蓋AIGC、智能辦公、數字員工、智能問答等多個場景,可以幫助企業及開發者快速構建和部署生成式AI應用。(袁寧)
本文來自本站科技報道,更多資訊和深度內容,關注我們。