和讯为您带来最新券商看点,供您参考:
AI模型对带宽要求提高
AI大模型的发展使得对通讯带宽的需求不断上升。以TransformerDecoder为基础的模型,如GPT,与CNN模型和以TransformerEncoder为基础的模型(例如BERT)相比,对访存带宽的要求更高。
英伟达新架构提升通讯带宽
英伟达的新一代数据中心GPU架构Blackwell在带宽方面实现了显著提升。与上一代Hopper架构相比,HBM迭代至HBM3e,带宽达到8TB/s;NVLink带宽翻倍至1.8TB/s;同时支持PCIe 6.0,带宽提升至256GB/s。
AI推动光模块技术进步
数据中心GPU的增长带动了光模块需求的上升,技术迭代如LPO、CPO、硅光等成为关注焦点。这些技术方向有助于降低系统损耗和成本,同时提高效率和减小尺寸。
GB200方案降低客户TCO
英伟达的GB200机架解决方案在性能上有显著提升,训练速度可达H100的4倍。GB200的CPU:GPU配比降低,有助于降低客户的总拥有成本(TCO)。随着GB200的推广,背板连接器、铜缆等零部件有望受益。
风险提示
需关注AI需求、新技术迭代和市场份额等方面的不确定性。
董萍萍 04-09 10:50
董萍萍 04-09 10:46
刘畅 03-25 21:06
王治强 03-23 09:37
贺翀 03-20 13:16
张晓波 03-20 12:58
最新评论