AI技术革新催生光模块需求翻倍,英伟达GPU架构突破提升通讯带宽!

2024-04-09 10:46:56 和讯网 
新闻摘要
英伟达推出Blackwell数据中心GPU架构,显著提升通讯带宽,HBM3e带宽翻倍,NVLink带宽提升,支持PCIe 6.0。AI发展推动通讯带宽要求提升,AI大模型对数据传输带宽有更高要求,尤其是基于TransformerDecoder的模型如GPT。数据中心GPU增加带动光模块需求,技术迭代方向包括LPO、CPO和硅光等,旨在降低系统损耗、成本,并提高效率。英伟达的GB200机架解决方案大幅提升性能,相同GPU数量下,训练速度可达H100的4倍。需注意AI需求、新技术迭代和市场份额可能不及预期的风险。

和讯为您带来最新券商看点,供您参考:

AI发展推动通讯带宽要求提升
AI大模型的算术强度较低,对数据传输带宽有更高要求。以TransformerDecoder为基础的模型如GPT,与CNN模型和基于TransformerEncoder的模型(例如BERT)相比,需要更多访存带宽。

英伟达新GPU架构提升通讯带宽
英伟达推出的Blackwell数据中心GPU架构,在多个维度实现了通讯带宽的显著提升。包括HBM3e带宽的翻倍,NVLink带宽的翻倍提升,以及PCIe 6.0的支持,使得带宽实现翻倍增加。

AI技术进步驱动光模块需求增长
数据中心GPU的增加带动了光模块需求。技术迭代方向包括LPO、CPO和硅光等,旨在降低系统损耗、成本,并提高效率。CPO技术通过缩短光引擎与芯片间距离,提升运作效率。

英伟达新机架解决方案促进铜连接需求
英伟达的GB200机架解决方案大幅提升性能,相同GPU数量下,训练速度可达H100的4倍。GB200的CPU:GPU配比降低,有助于降低客户的总拥有成本(TCO)。这可能会带动背板连接器、铜缆等核心零部件的增长。

风险提示
需注意AI需求、新技术迭代和市场份额可能不及预期的风险。


和讯自选股写手
风险提示:以上内容仅作为作者或者嘉宾的观点,不代表和讯的任何立场,不构成与和讯相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性,对此和讯不做任何保证和承诺。
(责任编辑:董萍萍 )
看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读