智源實現不同AI芯片DeepSeek-R1滿血版部署

2月25日消息,近日,智源研究院聯合多個芯片廠商發佈了基於FlagOS技術棧的DeepSeek-R1多芯片版本。該版本通過統一開源的軟件棧實現了不同AI芯片架構上的DeepSeek-R1推理。

基於FlagOS的DeepSeek-R1在各芯片上的評測結果

據介紹,DeepSeek-R1的多芯片版本能在性能上與英偉達芯片的版本效果對齊。該版本的源代碼、模型文件以及Docker鏡像已經開放至Github/Gitee、HuggingFace等平臺,方便開發者獲取與使用。

FlagOS是由智源牽頭,與多個廠商共同打造的面向多元AI芯片的統一、開源的系統軟件技術棧,包括支持多種AI芯片的高效並行訓推框架FlagScale、支持多種AI芯片架構的高性能算子庫FlagAttention和FlagGems,以及支持多種AI芯片的統一通信庫FlagCX等關鍵技術。(袁寧)

本文來自本站科技報道,更多資訊和深度內容,關注我們。