中信证券:存力升级为当前智能体推理核心需求坚定看好存储成长趋势 人民财讯3月31日电,中信证券研报称,AI从“简单对话”向“智能体(Agent)”演进,驱动上下文长度激增。据EpochAI数据,...
中信证券:存力升级为当前智能体推理核心需求坚定看好存储成长趋势 人民财讯3月31日电,中信证券研报称,AI从“简单对话”向“智能体(Agent)”演进,驱动上下文长度激增。据EpochAI数据,最长上下文窗口约每年增长30x,KVCache显存容量和上下文长度呈线性增长关系,远超硬件配置增速。目前大模型厂商、硬件厂商主要通过量化、分层存储、模型架构优化的方式解决存力瓶颈,但仍不改显存需求爆发。中信证券认为,显存优化有望降低单Token生成成本,进而刺激用户开启更高并发与更长上下文,总存力需求将不减反增,存力升级为当前Agent推理核心需求,坚定看好存储成长趋势。
【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。
最新评论