字节跳动：UltraMem 推理成本最高降 83%

2025-02-12 12:51:15 自选股写手

快讯摘要

字节跳动豆包大模型Foundation团队提出UltraMem架构，推理速度提升2-6倍，成本最高降83%。

【字节跳动豆包大模型 Foundation 团队推出 UltraMem 架构】字节跳动豆包大模型 Foundation 团队近期提出一种稀疏模型架构 UltraMem。该架构能在保证模型效果的前提下解决推理的访存问题，推理速度较 MoE 架构提升 2-6 倍，推理成本最高可降低 83%。

（责任编辑：董萍萍）

【免责声明】本文仅代表作者本人观点，与和讯网无关。和讯网站对文中陈述、观点判断保持中立，不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考，并请自行承担全部责任。邮箱：news_center@staff.hexun.com

写评论已有条评论跟帖用户自律公约

提交还可输入500字