航錦科技:航錦雲的雲服務項涉及FP8精度訓練和推理

每經AI快訊,8月25日,航錦科技在互動平臺表示,公司也關注到近期deepseek最新發布模型v3.1,採用針對下一代國產芯片涉及的UE8M0 FP8 Scale參數精度的新聞。目前,公司航錦雲在上海管理運營的雲服務項目L20燈塔集羣實踐了FP8精度的訓練和推理,利用E5M2/E4M3格式,可將數學吞吐量翻倍,並將帶寬壓力減少一半。其中,FP8訓練在相同加速平臺的峰值性能顯著超越FP16/BF16,且模型參數越大,訓練加速效果越好。