航锦科技:航锦云的云服务项涉及FP8精度训练和推理

2025-08-25 16:33:39 每日经济新闻 
新闻摘要
每经AI快讯,8月25日,航锦科技在互动平台表示,公司也关注到近期deepseek最新发布模型v3.1,采用针对下一代国产芯片涉及的UE8M0FP8Scale参数精度的新闻。目前,公司航锦云在上海管理运营的云服务项目L20灯塔集群实践了FP8精度的训练和推理,利用E5M2/E4M3格式,可将数学吞吐量翻倍,并将带宽压力减少一半。其中,FP8训练在相同加速平台的峰值性能显著超越FP16/BF16,且模型参数越大,训练加速效果越好

每经AI快讯,8月25日,航锦科技在互动平台表示,公司也关注到近期deepseek最新发布模型v3.1,采用针对下一代国产芯片涉及的UE8M0 FP8 Scale参数精度的新闻。目前,公司航锦云在上海管理运营的云服务项目L20灯塔集群实践了FP8精度的训练和推理,利用E5M2/E4M3格式,可将数学吞吐量翻倍,并将带宽压力减少一半。其中,FP8训练在相同加速平台的峰值性能显著超越FP16/BF16,且模型参数越大,训练加速效果越好。

每日经济新闻

(责任编辑:王治强 HF013)

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读