英伟达Blackwell架构革新,GB200方案助AI提速,光模块技术迎突破!

2024-04-09 10:53:41 和讯网 
新闻摘要
AI模型发展推动通讯带宽需求激增,英伟达新一代GPU架构Blackwell带宽大幅提升至8TB/s,助力数据中心GPU性能升级。同时,光模块技术因AI需求增长迎来创新,LPO、CPO等技术降低系统损耗,提升效率。英伟达GB200方案在性能提升的同时,降低TCO,推动相关零部件市场发展。然而,AI需求、新技术迭代和市场份额的不确定性仍需关注。

和讯为您带来最新券商看点,供您参考:

AI模型对带宽要求提高
AI大模型的发展使得对通讯带宽的需求不断上升。以TransformerDecoder为基础的模型,如GPT,与CNN模型和以TransformerEncoder为基础的模型(例如BERT)相比,对访存带宽的要求更高。

英伟达新架构提升通讯带宽
英伟达的新一代数据中心GPU架构Blackwell在带宽方面实现了显著提升。与上一代Hopper架构相比,HBM迭代至HBM3e,带宽达到8TB/s;NVLink带宽翻倍至1.8TB/s;同时支持PCIe 6.0,带宽提升至256GB/s。

AI推动光模块技术进步
数据中心GPU的增长带动了光模块需求的上升,技术迭代如LPO、CPO、硅光等成为关注焦点。这些技术方向有助于降低系统损耗和成本,同时提高效率和减小尺寸。

GB200方案降低客户TCO
英伟达的GB200机架解决方案在性能上有显著提升,训练速度可达H100的4倍。GB200的CPU:GPU配比降低,有助于降低客户的总拥有成本(TCO)。随着GB200的推广,背板连接器、铜缆等零部件有望受益。

风险提示
需关注AI需求、新技术迭代和市场份额等方面的不确定性。


和讯自选股写手
风险提示:以上内容仅作为作者或者嘉宾的观点,不代表和讯的任何立场,不构成与和讯相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。和讯竭力但不能证实上述内容的真实性、准确性和原创性,对此和讯不做任何保证和承诺。

(责任编辑:董萍萍 )
看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读