2 月 25 日,DeepSeek 开源 DeepEP,是首个用于 MoE 模型的通信库,具多种优化和优势,适配不同场景需求。
【2 月 25 日,DeepSeek 于“开源周”次日开源 DeepEP】DeepEP 是首个用于 MoE 模型训练和推理的 EP 通信库。它能实现高效且优化的全对全通信,支持低精度运算,还针对特定场景深度优化。DeepEP 提供多种内核,支持自适应路由,可满足不同场景需求。
【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com
最新评论