半导体行业跟踪报告之十八:卡间互联成为AI芯片竞争焦点 华丰科技铜互连方案国内领先

2024-08-14 11:10:05 和讯  光大证券刘凯/孙啸
  一、英伟达GPU 卡间互联优势明显,发布NVL72 采用铜连接方案
  2024 年GTC 大会,英伟达发布B200 系列GPU 与NVL72 机柜。英伟达于美东时间3 月18 日举办2024 GTC 大会,发布了多项重要产品。公司CEO 黄仁勋介绍了运行AI 模型的新一代芯片和软件,并正式推出名为Blackwell 的新一代AI 图形处理器(GPU),预计将在今年晚些时候发货。
  英伟达每两年更新一次其GPU 架构,实现性能的飞跃。过去一年发布的许多AI 模型都是在该公司的Hopper 架构上训练的,该架构被用于H100 等芯片,于2022 年宣布推出。Blackwell 平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25 倍。
  英伟达称,Blackwell 拥有六项革命性的技术,可以支持多达10 万亿参数的模型进行AI 训练和实时LLM 推理:
  1)全球最强大的AI 芯片。Blackwell 架构GPU 由2080 亿个晶体管组成,采用量身定制的台积电4 纳米工艺制造,两个reticle 极限GPU 裸片将10 TB/秒的芯片到芯片链路连接成单个统一的GPU。
  2)第二代Transformer 引擎:结合了Blackwell Tensor Core 技术和TensorRT-LLM 和NeMo Megatron 框架中的英伟达先进动态范围管理算法,Blackwell 将通过新的4 位浮点AI 支持双倍的计算和模型大小推理能力。
  3)第五代NVLink:为提高数万亿参数和混合专家AI 模型的性能,最新一代英伟达NVLink 为每个GPU 提供了突破性的1.8TB/s 双向吞吐量。
  4)RAS 引擎:Blackwell 支持的GPU 包含一个专用引擎,实现可靠性、可用性和服务性。此外,Blackwell 架构还增加了芯片级功能,利用基于AI 的预防性维护进行诊断和预测可靠性问题。这可以最大限度地延长系统正常运行时间,并提高大部署规模AI 的弹性,使其能连续运行数周甚至数月,并降低运营成本。
  5)安全人工智能:先进的机密计算功能可在不影响性能的情况下保护AI 模型和客户数据,并支持新的本机接口加密协议,这对于医疗保健和金融服务等隐私敏感行业至关重要。
  6)解压缩引擎:专用解压缩引擎支持最新格式,加快数据库查询,提供数据分析和数据科学的最高性能。未来几年,在企业每年花费数百亿美元的数据处理方面,将越来越多地由GPU 加速。
  此外,英伟达发布了GB200 NVL72,把18 个Blackwell 计算节点(ComputeTray)组合在一起,形成新一代计算单元。
  GB200 NVL72 中一共包含了9 个NVLink 交换节点(Switch Tray),每个交换节点中配置了2 颗NVLink Switch 芯片,向外提供14.4TB/s 的聚合带宽。
  如果要训练一个1.8 万亿参数量的GPT 模型,需要8000 张Hopper GPU,消耗15 兆瓦的电力,连续跑上90 天。但如果使用Blackwell GPU,只需要2000 张,同样跑90 天只要消耗四分之一的电力。除了训练之外,生成Token 的成本也会随之降低。GB200 NVL72 训练和推理性能相比于等同数量的H100 GPU 表现提升4 倍和30 倍。
  从NVLINK 1.0 到NVLINK 5.0,英伟达GPU 卡间互联快速演进。作为英伟达的核心技术,NVLink 在GPU 网络通信系统中占据重要地位,其对于提升数据传输效率和处理性能具有显著作用。
  NVLink 技术实现了GPU 与支持该技术的CPU 之间以及多个GPU 之间的高带宽直接连接,从而大幅提升了整体性能。然而值得注意的是,NVLink 技术并未向行业开放,这在一定程度上影响了其他厂商在相关领域的竞争力。
  英伟达不仅拥有出色的GPU 和软件,还在跨多个GPU 和系统横向扩展工作负载方面拥有丰富的技术积累。这些技术包括芯片上和封装上互连、用于服务器或pod 中GPU 到GPU 通信的NVLink、用于超pod 扩展的Infiniband 以及连接到更庞大基础设施的以太网等。NVLink 技术使得CPU 与GPU 之间能够实现快速数据交换,从而提升了整个计算系统的数据吞吐量,有效克服了加速计算领域的一大瓶颈。
  随着英伟达GPU 芯片的更新迭代,NVLink 技术也在不断进化。从2017 年的NVLink 2.0 到2020 年的NVLink 3.0,再到2022 年的NVLink 4.0,每一次更新都带来了更高的性能和更广泛的应用场景。
  在2024 年的GTC 大会上,英伟达推出了全新的NVLink 5.0 技术,并与最新一代Blackwell 芯片一同亮相。这一技术极大地提升了大型多GPU 系统的可扩展性,单个Blackwell Tensor Core GPU 支持多达18 个NVLink 100GB/s 连接,总带宽达到1.8TB/s,较上一代产品提升了两倍之多。此外,NVLink 5.0 技术还支持跨节点扩展,通过NVLink Switch 以及铜缆互联实现无缝、高带宽、多节点GPU 集群的构建,从而满足数据中心级别的大型GPU 需求。
  利用NVLink 技术,多服务器集群能够平衡GPU 通信与增加的计算量,从而实现了更高的性能和效率。例如,在GB200 NVL72 等服务器平台上,NVLink 技术的应用使得这些平台能够支持更为复杂的大型模型,并提供了更高的可扩展性。这些优势使得英伟达在GPU 网络通信领域继续保持领先地位,并为其在AI、数据中心等领域的广泛应用提供了有力支持。
  二、八巨头组建UALink 联盟,卡间互联成为竞争焦点为弥补卡间互联差距,八大巨头组建UALINK 联盟。谷歌、Meta、微软、AMD、英特尔、博通、思科、惠普在内的科技巨头联合宣布成立Ultra Accelerator Link(UALink)联盟,致力于开发人工智能数据中心GPU 网络通信系统的全新行业开放标准。此举旨在打破英伟达在市场上的垄断地位,推动行业内的竞争与创新。
  UALink 倡议由AMD 牵头提出,得到了英特尔、博通等公司的积极响应与支持。
  作为倡导组织的成员,思科、谷歌、惠普、Meta 和微软等公司亦表示大力支持。
  该倡议致力于构建一种内存语义结构,在首个版本规范中便支持扩展至1024 个端点,以适应不同规模的AI 计算需求。
  UALink 联盟计划推出的首个UALink 1.0 版本将实现AMD 的Instinct GPU 和英特尔的Gaudi 等专用处理器之间的直接数据传输,从而显著提升AI 计算的性能与效率。UALink 的高速I/O 通信设计与协议展现出强大的技术实力,彰显了联盟成员挑战市场领导者的决心。UALink 专家组将负责制定管理数据中心中不同GPU 之间连接的标准,并预计于2024 年第三季度向联盟成员提供这些标准。
  UALink 的推出为业界其他公司提供了追赶英伟达步伐的契机。随着AI 计算需求的不断增长,拥有一个稳健、低延迟且可高效扩展的网络对于提升计算性能至关重要。UALink 及行业规范的制定将有助于为AI 工作负载创建开放的高性能环境,推动行业的持续进步。
  UALink 工作组将致力于制定规范,以界定AI 计算容器组中加速器与交换机之间进行纵向扩展通信所需的高速低延迟互连。通过标准化接口和实现方式,UALink将为新一代AI 数据中心提供更加高效、灵活的AI 和机器学习、高性能计算以及云应用程序解决方案。
  对于AMD 和英特尔等业界巨头,UALink 的推出为它们提供了一条复制NVLink和NVSwitch 功能的路径,并促进了与其他企业的合作与成果共享。博通等公司在UALink 的助力下,可生产UALink 交换机,有效推动其他公司的规模扩张。
  AMD 数据中心总经理Forrest Norrod 明确指出,行业亟需开放标准以推动持续发展,并鼓励多家公司共同参与价值创造。首批UALink 产品预计将在未来几年内陆续问世。
  博通数据中心副总裁Jas Tremblay 表示,作为UALink 联盟的创始成员,博通一直致力于将AI 技术融入数据中心领域,并支持开放生态系统协作,这对于实现网络扩展至关重要。
  思科通用硬件集团执行副总裁Martin Lund 亦强调,随着AI 工作负载的不断增长,高性能互连技术的重要性日益凸显。思科将积极参与UALink 的开发,共同打造可扩展且开放的解决方案,以应对构建AI 超级计算机所面临的挑战。
  三、华丰科技:高速连接器产品国内领先,助力国产互联方案发展连接器领域数十年积累,防务、通讯和工业全面布局。华丰科技是我国率先从事电连接器研制和生产的核心骨干企业及高新技术企业,长期从事光、电连接器及线缆组件的研发、生产、销售,并为客户提供系统解决方案。
  公司自设立以来,主营业务未发生重大变化,主要经营模式自华丰有限设立以来未发生重大变化,主要产品的技术水平、技术含量、质量等级不断提升,产品也随着用户使用要求,逐步向轻量化、高密度、小型化、集成化、无缆化发展,自公司前身华丰厂成立至今,公司业务、产品、技术经历了逐步演进的过程。
  公司面向世界科技前沿、经济主战场和国家重大需求,大力推动技术创新,持续开展技术攻关,目前已具备突破关键核心技术的基础和能力,掌握具有自主知识产权的连接器核心技术,为我国通讯、防务、工业等行业大量配套,产品广泛应用于通讯、航空、航天、船舶、防务装备、电子装备、核电、新能源汽车、轨道交通等领域。
  在防务领域,公司具有60 余年的防务互连技术沉淀和综合优势,产品体系覆盖全面,产品层次丰富,可提供复杂系统的互连整体解决方案。从1980 年向太平洋发射运载试验开始,至1999 年“神舟一号”试验飞船实现天地往返,到2022年“神舟十四号”与天和核心舱再次对接,公司先后为航天发射系统、运载火箭系统、航天服系统、载人飞船系统、测控通信系统、空间应用系统、空间实验系统和着陆系统等大量配套,特别是航天服上的连接器为独家研制生产,公司连接器的高可靠性能为载人航天工程的成功奠定了坚实根基。目前公司已完成防务信息系统连接器统型标准科研项目1 项,主导或参与制定了十余项国家标准及国家军用标准。公司开发的FMC 系列高速数据连接器、JVNX 系列高速总线连接器、JH 系列耐环境连接器等产品技术指标达到国际先进水平,FMC、JVNX 等系列连接器实现了国产化替代。
  在通讯领域,公司于2016 年和2018 年分别作为独家建设单位承担了国家工信部“强基工程”和国家发改委重大专项工程,在被誉为连接器行业皇冠上的明珠“高速背板连接器”领域一举突破了国外龙头企业对于10Gbps 及以上速率高速背板连接器技术封锁,掌握了产品核心设计技术及关键制程工艺技术,实现了国产化替代,为通讯产业核心元器件自主可控做出了贡献。在高速连接器核心技术基础上,公司为解决现有PCB 技术下,通讯设备高速化后信号传输长链路无法满足衰减要求的难题,成功开发了基于芯片到芯片、芯片到接口、背板到子板全链路低损耗解决方案及产品,为通讯设备厂商核心设备持续升级提供了高速链路的连接技术支撑。公司与华为、中兴、诺基亚等国内外多家主流通讯设备制造商建立了长期的业务合作关系,已成为华为、中兴的核心供应商之一。
  在工业领域,公司在轨道交通业务方面开发了覆盖整车/整机用的JL 系列圆形及HDC 系列重载等互连产品,突破了信号控制及高压大电流技术,产品完全满足IEC 等国际标准,在机车和城轨列车上实现了国产化替代,并正在进行高速动车组互连产品国产化替代统型;在新能源业务方面,公司开发了车载高压连接器及线束、充电接口连接器、BDU/PDU 充配电系统总成及控制模块,并正在开发车载高速连接器及线束组件,逐步在新能源汽车领域打开市场,目前已成为比亚迪、上汽通用五菱等客户的合格供应商。
  公司2023 年实现营收9.04 亿元,同比减少8.17%,实现归母净利润0.72 亿元,同比减少26.74%;2024Q1 实现营收2.26 亿元,同比增长26.48%%,实现归母净利润0.10 亿元,同比减少11.20%。在具体收入拆分方面,2023 年公司连接器业务实现营收5.10 亿元,系统互联产品实现营收2.01 亿元,组件产品实现营收1.60 亿元,其他配套件实现营收0.21 亿元。
  长期耕耘高速通讯领域,成为国内龙头客户的主要供应商。公司是较早一批在主流设备供应商布局的公司,较早成为华为、中兴、诺基亚的全球供应商,在烽火通信、新华三等公司成立之初即成为其合格供应商。
  公司聚焦背板连接器、电源连接器、射频连接器、线缆组件等产品技术,并为主流客户进行合作配套。2008 年开始,公司针对背板连接器进行长期的技术研究和迭代开发,聚焦公司资源在专利技术、SI 仿真技术、制造工艺技术、总装工艺技术、在线检测技术等方面重点攻关,不断取得突破,形成了背板产品的核心竞争力。2017 年起国外的贸易制裁以及技术封锁,推动了国内高速连接技术重点突破工程的开展,公司集中资源开展了高速背板连接器的技术研发和产品开发工作,并于2019 年开发出了10Gbps、25Gbps 速率的高速背板连接器并顺利实现了量产,2020 年公司研发的56Gbps 背板连接器产品也已通过客户认证。
  目前,公司已实现国内外多家主流通讯设备制造商的覆盖,并形成了具有较大影响力和竞争力的包含多种速率的高速背板连接器系列拳头产品,在高速背板连接器领域,除国外领先厂商外,国内供应商形成了以华丰科技、庆虹电子、中航光电为主的格局,目前仅有华丰科技、庆虹电子、中航光电实现了56Gbps 高速背板连接器量产,且基本完成了龙头通讯设备厂商华为、中兴56Gbps 及以下产品的替代工作,在112Gbps 以上推出自主界面产品。根据公司2021 年高速背板  连接器业务收入测算,公司高速背板连接器业务的国内市场占有率超过3%;根据公司2022 年高速背板连接器业务开展情况预计,公司2022 年高速背板连接器业务的国内市场占有率预计超过5%。就单一客户而言,公司已成为我国最大的通信设备制造商华为的高速背板连接器两大国内供应商之一,公司与庆虹电子分别占据华为20%-30%的份额,中航光电的主要客户为中兴。未来,随着与这些客户的深入合作,公司的通讯连接器产业特别是高速背板连接器产品将迎来更大的市场发展空间。
  推出高速互联完整方案,在高速背板连接器等方面具备技术优势。公司通讯类连接产品具体包括高速连接器、印制板连接器、电源连接器、射频类连接器、光通讯连接器以及线缆组件,其中高速背板连接器以及印制板连接器属于公司具备较强技术优势的产品。
  华丰高速互连方案包括I/0 高速互连、背板高速互连、夹层印制板高速互连等印制板全链路光信号、高速差分信号和毫米波信号解决方案。传输速率1.25G-112Gbps。
  PCB 夹层总线互连方案解决狭小印制板空间板到板、板到线、线到板VITA57 总线,VITA61 总线,HSMC 总线等总线平台的互连互通问题。连接器产品传输速  率盖1.25Gbps3.125Gbps、8Gbps、10Gbps、14Gbps、20Gbps、28Gbps、32Gbps、56Gbps。
  在高速背板连接器方面,公司立足于深厚的高速连接器产品研发、制造基础,承担了“XX 高速连接器研发及产业化”、“XX 高速连接器”、“XX 高速背板连接器”等国家级通讯领域高速连接器研发项目,研究开发了适用于3G、4G、5G系统的高速背板类连接器及线缆组件,其中应用于5G 通讯领域数据中心服务器、交换机的高速背板类连接器突破了国外技术垄断,在保证高度信号完整性情况下,实现了10Gbps~56Gbps 高速差分信号传输能力,产品性能达到了国际先进、国内领先水平,产品国产化替代已初具规模,公司25Gbps、56Gbps 等高速背板连接器已在华为设备中大批量使用,最近一期56Gbps 及以上速率产品占高速背板连接器收入的比重超过25%。同时,公司主导制定了11 项与高速连接器测试相关的国家标准。目前,泰科、安费诺和莫仕已分别推出 112Gbps 高速背板连接器,但国内主流的通讯设备企业在112Gbps 产品方面已开始在方案阶段即导入国内产品。国内主要竞争对手中航光电和庆虹电子相继开发了 112Gbps高速背板连接器,目前均未实现销售,公司亦已推出112Gbps 高速背板连接器并已完成主要客户的产品测试,该产品的成功研发使得公司在该领域与国外领先企业处于技术同步,为通讯领域客户下一代设备研发提供产品技术支撑。
  MHT Plus 系列是公司56Gbps 高速背板连接器的主要系列之一,因此选取该系列产品与国外头部企业莫仕的主流产品Impel Plus 系列进行对比。经对比,其电气性能、机械性能、环境性能等指标已达到国外同行业头部企业水平。
  四、高速铜互连行业投资建议
  投资建议:卡间互联成为全球AI 芯片竞争的焦点,铜连接是卡间互联的关键支撑技术,高速连接器、线材以及互联整体方案的需求提升,产业链受益方包括华丰科技、沃尔核材、神宇股份、立讯精密、鼎通科技等公司。其中华丰科技是国产铜互连方案主要供应商,建议重点关注。
  五、风险提示
  行业需求不及预期风险
  以英伟达NVL 72 为代表的高算力密度机柜加铜互连方案成本较高,行业需求可能不及预期。
  竞争加剧风险
  连接器与高速线缆行业供应商数量较多,行业竞争可能加剧。
  盈利能力风险
  目前AI 网络的铜互连是新型产品,相对老产品有较高的毛利率。在相关方案定型并且稳定量产之后,毛利率可能趋于平均,影响盈利能力。
【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。
(责任编辑:王丹 )

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

有问必答- 持牌正规投资顾问为您答疑解惑

    热门阅读

      和讯特稿

        推荐阅读