存储行业深度报告:AI服务器存储量价齐升 算力需求推动HBM市场数倍增长

2023-11-23 10:35:09 和讯  招商证券鄢凡/曹辉
  AI 算力升级带动服务器的CPU 迭代并提升GPU 需求,带动AI 服务器存储容量和价值量较传统服务器数倍增长。训练型AI 服务器中GPU 承担大部分算力,算力要求推动了HBM 等新型存储器超百亿美元新兴市场,进而提升Bumping、TSV、CoWoS 等先进封装工艺需求,并带来减薄、键合、模塑、测试等设备以及EMC、电镀液、PSPI 等材料的增量需求。叠加国内自主可控需求持续增长,国内存储及HBM 等催生的先进封装产业链发展空间巨大。
  AI 服务器CPU 和GPU 随算力需求而升级,对存储器容量和价值量均有数倍拉动。传统服务器以CPU 作为算力核心,随着AI 训练模型的算力要求不断提升,CPU 的核心数、主频、线程数量均不断提升,但仅靠CPU 已经无法满足算力需求,需要搭配GPU 进行多线程数据处理,主流训练型服务器一般搭配8 个GPU。AI 服务器用到的主要存储器包括CPU 内存、GPU 显存和硬盘NAND 等,存储器容量和价值量均较普通服务器有数倍提升,1)DRAM:
  英伟达训练型AI 服务器中的CPU DRAM 容量高达2TB,另外单个GPU 一般搭载80GB 以上的HBM 存储器,AI 服务器HBM 总容量预计超640G,总内存容量相较普通服务器有4-8 倍的提升,仅CPU 内存价值量预计有5 倍的提升,GPU 的HBM 则为纯增量市场;另外,服务器内存也在不断迭代,目前普通的服务器均多配备DDR4,但最先进的AI 服务器已经搭配了DDR5 或LPDDR5;2)NAND:AI 服务器的硬盘容量高达30TB,相较传统服务器提升2-4 倍,另外传统服务器同时使用机械硬盘和固态硬盘(SSD),但AI 服务器基本全部使用SSD,整体价值量较普通服务器预计提升10 倍左右。
  HBM 能够突破训练型AI 服务器的GPU 带宽极限,2024 年增量空间预计超百亿美元。HBM(High Bandwidth Memory)即高带宽存储器,是基于2.5/3D封装技术的一种新型CPU/GPU 内存芯片,将DRAM Die 垂直堆叠,Die 之间通过TSV 的方式连接。HBM 能够以低功耗产生高带宽,因此广泛搭配训练型AI 服务器的GPU 使用,训练型AI 服务器对HBM 需求的拉动主要体现在:1)AI 服务器搭载GPU 数量的提升:由普通服务器的2 个提升至目前的8 个;2)单个GPU 搭载HBM Stack 数量的提升:在HBM1 方案中,单个GPU 搭载4 个HBM1,而在目前HBM2e 或HBM3 方案中,一般单个GPU搭配6 个HBM Stack;3)HBM 堆叠的DRAM 层数和容量增多:从HBM1到HBM3,单个DRAM Die 密度从2Gb 提升至16Gb,堆叠高度从4Hi 提升至12Hi,单个HBM 叠层容量从1GB 提升至24GB。Trendforce 预计2025年全球服务器出货量为1700 万台,当前AI 服务器渗透率大概不足2%,假设2024 年AI 服务器渗透率约4%,按照每个AI 服务器搭载8 个GPU、每个GPU 搭载6 个共80GB 至100GB 及以上的HBM Stack 的方案测算,那么2024 年AI 服务器带来的HBM 增量空间预计超百亿美元。
  AI 服务器的GPU 采用2.5D+3D 封装工艺,推动TSV、CoWoS 等核心封装技术需求。HBM 和GPU 采用2.5D+3D 封装工艺,根据Yole,2021 年HBM和Si 中介层封装市场规模合计约14 亿美元,预计2027 年增至35 亿美元,其中HBM 和硅中介层封装市场分别增至16.3 和18.8 亿美元。TSV(Through-Silicon Via)即硅通孔技术,顺应2.5D 封装架构而产生,能够以最低的能耗提供极高的带宽和密度,是实现电路小型化、高密度、多功能化的首选解决方案。2.5D TSV 技术已经广泛用于AI GPU 基板上的HBM 中,实现DRAM 各层Die 之间的连接,以及HBM 芯片和下方的金属凸块之间的连接。CoWoS 工艺用于将HBM 和硅中介层、封装基板等进行整体封装,当前台积电处于领先地位,伴随着谷歌TPU、英伟达GPU、AMD MI300 等均导入生成式AI,台积电CoWoS 需求自2022 年以来翻倍增长,目前持续供不应求,展望2024 年将目前CoWoS 产能翻倍。
  HBM 多层堆叠结构提升工序步骤,将带动封装设备和材料需求持续提升。1)设备:HBM 中大量增加前道工序,前道检、量测设备主要增量来自微凸点、TSV、硅中介层等工艺,另外HBM 中增加的预键合晶圆级测试和KGSD 相关的封装级测试也带动分选机、测试机、探针台等后道测试设备的数量和精度提升;HBM 堆叠结构增多,要求晶圆厚度不断降低,进而提升减薄、键合等设备需求;HBM 多层堆叠结构要求超薄晶圆和铜-铜混合键合工艺,增加了临时键合/解键合以及混合键合设备需求,各层DRAM die 的保护材料也非常关键,对注塑或压塑设备提出较高要求;另外,诸如划片机、固晶机、回流焊机/回流炉等传统设备需求也均受益于HBM 封装带来的工艺步骤提升和工艺变革带来的价值量提升;2)材料:HBM 中芯片间隙采用GMC(颗粒状塑封料)或LMC(液态塑封料)进行填充,GMC 最主要原材料为球形硅微粉和球形氧化铝;HBM 采用底部填充胶用于FC 封装工艺,采用PSPI 作为硅中介层中RDL 的再钝化层;HBM 中的Bumping、RDL、TSV 等引入前道工艺,带来电镀液用量提升;另外,HBM 也将提升电子粘合剂、封装基板、压敏胶带等其他材料需求。
  投资建议。相较传统服务器,AI 服务器的存储器容量和价值量均提升数倍,其中训练型AI 服务器GPU 对带宽要求显著提升,催生了HBM 等新型存储器的增量需求。当前DRAM、NAND、HBM 等份额均主要由海外原厂如三星、美光、SK 海力士等占据,HBM 的CoWoS 封装工艺主要由台积电掌握,但考虑到AI 对整个存储产业链的拉动,叠加行业需求持续复苏、国产自主可控需求持续提升,国内存储及HBM 等催生的先进封装产业链发展空间巨大。建议关注先进封装设备标的中科飞测、北方华创、中微公司、拓荆科技、华海清科、盛美上海、芯源微、精测电子、芯碁微装、文一科技、至正股份、新益昌、光力科技、德龙激光、赛腾股份、耐科装备、亚威股份、劲拓股份、迈为股份、奥特维、长川科技、华峰测控、金海通等;先进封装材料标的鼎龙股份、安集科技、雅克科技、强力新材、天承科技、华海诚科、联瑞新材、壹石通、飞凯材料、德邦科技、兴森科技、生益科技、深南电路、神工股份、上海新阳、华正新材、方邦股份、回天新材、国风新材等;先进封装标的长电科技、通富微电、华天科技、深科技、太极实业、甬矽电子等;存储芯片标的兆易创新、紫光国微、复旦微电、北京君正、聚辰股份、普冉股份、东芯股份、恒烁股份、上海贝岭等;存储模组及主控标的江波龙、佰维存储、朗科科技、德明利、国科微等;存储经销标的香农芯创、雅创电子等;存储及HBM 配套标的国芯科技、澜起科技、创益通等。
  风险提示:AI 服务器渗透率提升不及预期、存储行业复苏不及预期、国产替代进程不及预期、研发进展不及预期的风险。
【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。
(责任编辑:王丹 )

   【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。

看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    和讯特稿

      推荐阅读