AI革新助推通讯升级,英伟达GPU新架构助力数据中心飞跃!

2024-04-09 10:50:13 和讯网 
新闻摘要
AI大模型的发展推动了通讯带宽的升级需求,其中基于TransformerDecoder的模型如GPT对带宽的需求尤为突出。英伟达的Blackwell新架构通过提升HBM3e、NVLink和PCIe 6.0的带宽,有效应对了这一挑战。同时,AI进步也促进了光模块技术的创新,包括LPO、CPO和硅光技术,这些技术有助于数据中心GPU的需求增长。此外,英伟达的GB200机架解决方案优化了成本,降低了CPU与GPU的配比,可能带动相关零部件市场的增长。然而,市场需关注AI需求、新技术迭代和市场份额等方面的风险。

和讯为您带来最新券商看点,供您参考:

AI大模型推动通讯带宽升级
AI大模型运算密集,对通讯带宽提出更高要求。以TransformerDecoder为基础的模型如GPT,相比CNN模型和以TransformerEncoder为基础的模型,对带宽需求更大。

英伟达新架构提升通讯带宽
英伟达最新数据中心GPU架构Blackwell实现了带宽的多维度提升。HBM3e带宽达到8TB/s,NVLink带宽达到1.8TB/s,同时支持PCIe 6.0,带宽达到256GB/s。

AI发展带动光模块技术进步
数据中心GPU需求增长,推动了光模块技术的迭代,包括LPO、CPO和硅光等技术。这些技术有助于降低系统损耗、成本,减小尺寸、提高效率,同时保持超高速率和超低功耗。

英伟达机架解决方案优化成本
英伟达最新机架解决方案GB200提升了性能,降低了CPU:GPU配比,有助于降低客户的总拥有成本(TCO)。GB200的应用可能带动背板连接器、铜缆等核心零部件的增长。

风险提示
需关注AI需求、新技术迭代和市场份额等方面可能不及预期的风险。


和讯自选股写手
风险提示:以上内容仅作为作者或者嘉宾的观点,不代表和讯的任何立场,不构成与和讯相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性,对此和讯不做任何保证和承诺。

(责任编辑:董萍萍 )
看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读