2 月 12 日,豆包概念股午后走强,因字节跳动豆包大模型新架构解决推理访存问题。
【2 月 12 日,豆包概念股午后大幅走强】2 月 12 日,豆包概念股在午后表现强劲。创业板的汉得信息拉升封板,广和通、移远通信、润欣科技、博通集成等纷纷大幅冲高。消息显示,字节跳动豆包大模型 Foundation 团队近期提出 UltraMem,这是一种将计算和参数解耦的稀疏模型架构,能在保证模型效果的前提下解决推理的访存问题。该架构有效解决了 MoE 推理时高额的访存问题,推理速度较 MoE 架构提升 2 - 6 倍,推理成本最高可降低 83%。
【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com
最新评论