“AI的IPHONE时刻”系列15：COWOS实现HBM和GPU高速互连

　　核心观点：
　　先进封装提升数据传输带宽，释放HPC 芯片算力。英伟达发布基于Grace Hopper 芯片的超级计算机GH200。
　　Grace Hopper 使用NVLink C2C 技术实现CPU 与GPU 间900 GB/s 带宽高速互连；Hopper GPU 使用CoWoS技术集成HBM3 内存，内存带宽高达3000 GB/s。后摩尔时代，芯片晶体管密度提升接近极限，芯片尺寸放大也受到掩模版极限的限制，晶圆制造工艺对芯片算力的提升趋于放缓。长期以来，芯片封装技术的进步速度慢于晶圆制造技术，这导致芯片数据传输速率的提升低于芯片算力的提升，传输带宽已经成为限制芯片性能的瓶颈之一。因此各种2.5D、3D 先进封装技术将成为AI 等高性能计算场景中算力提升的关键。
　　台积电CoWoS-S 技术是目前HBM 与CPU/GPU 处理器集成的主流方案。HBM 是一种新型内存，通过垂直堆叠DRAM 芯片以缩短内存和处理器间通信的距离，从而提升数据传输带宽。相比于常见的DRAM DIMM，HBM最大的优势在于DRAM 芯片之间以及内存和处理器之间的带宽更高，尺寸更小。目前HBM 已经迭代至HBM3，代替DRAM DIMM 成为先进高性能计算芯片的首选内存方案。HBM 与处理器之间的集成需要使用2.5D 先进封装技术。英伟达P100、V100、A100、H100、Grace Hopper 等高性能数据中心芯片均采用台积电CoWoS-S技术实现HBM 与GPU 的封装。CoWoS-S 是台积电3D Fabric 平台下的2.5D 封装技术平台，使用硅晶圆作为中介层构造芯片-晶圆-基板（Chip-on-Wafer-on-Substrate）结构，实现处理器与HBM 之间高密度、高带宽互连，成为目前HBM 与CPU/GPU 处理器集成的主流方案，除英伟达外，CoWoS 的用户还包括Broadcom、Google TPU、Amazon Trainium 等头部厂商。
　　投资建议。AIGC 推动AI 服务器需求增长，建议关注：算力：海光信息、寒武纪（计算机组覆盖）、工业富联、芯原股份、龙芯中科等；连接：源杰科技、澜起科技、裕太微、聚辰股份、帝奥微等；PCB：胜宏科技、沪电股份；存储：深科技、北京君正、兆易创新、东芯股份等；电源：杰华特；制造：中芯国际、长电科技、通富微电、甬矽电子等；应用：海康威视、大华股份、韦尔股份、思特威、格科微、恒玄科技、晶晨股份、全志科技、瑞芯微等。
　　风险提示。AIGC 发展不及预期； AI 服务器出货量不及预期； 国产厂商技术和产品进展不及预期。
【免责声明】本文仅代表第三方观点，不代表和讯网立场。投资者据此操作，风险请自担。

   【免责声明】本文仅代表第三方观点，不代表和讯网立场。投资者据此操作，风险请自担。