根据Counterpoint Research HPC Service最新发布的《资料中心AI伺服器运算ASIC出货预测与追踪》，全球AI伺服器运算ASIC对高频宽记忆体(HBM)的位元需求，预计将在2024~2028年间成长35倍。

延续Counterpoint Research先前对客制化加速晶片的分析，此一爆发性成长主要来自专有加速器广泛采用高密度记忆体架构。主要需求动能包括Google为支援Gemini生态系而大幅扩展TPU基础架构、AWS Trainium丛集持续部署，以及Meta MTIA与Microsoft Maia的导入升温。尽管超大规模云端服务商持续积极扩展自研晶片产品组合，但整体产业发展方向显示，HBM已成为支撑下一代AI工作负载的关键技术，同时也是主要资本支出的重点。

此趋势的一大重点，是AI加速器整体可服务市场(TAM)出现结构性变化，其中客制化ASIC正快速提升在全球HBM消耗中的占比。值得注意的是，这波需求成长主要来自单颗晶片层级记忆体密度的大幅提升。这种每颗晶片密度的指数级成长，直接反映出下一代AI工作负载对运算能力的快速提升需求。随着超大规模云端服务供应商(Hyperscalers)迅速导入兆级参数模型、多模型架构，以及复杂的Mixture-of-Experts (MoE)设计，需要更高的记忆体密度以将更庞大的资料集靠近运算核心，进而提升资料吞吐量、降低高阶推论任务的延迟，并确保记忆体瓶颈不会拖累整体系统效能。

此一发展趋势意味着，AI伺服器运算ASIC将在整体HBM市场中占据愈来愈高的比重，使记忆体需求来源逐步从过去单一依赖商用GPU转向更加多元。同时，ASIC记忆体生态也正经历明确的世代转换。随着云端服务供应商优先考量最大频宽能力与成熟的供应链体系，HBM3E预计将占据主导地位，到2028年约占ASIC HBM位元需求结构的56%。

针对HBM3E的市场占比配置，Counterpoint Research研究专员David Wu表示：「HBM3E已被证明是当前AI架构的最佳平衡点，可提供突破记忆体瓶颈所需的高频宽与高密度，以支援大型参数模型。随着Samsung良率逐步稳定并缓解先前的供应限制，各大云端服务商正逐步将新一代ASIC标准化采用HBM3E。Counterpoint Research预期这项广泛采用将使HBM3E至少在2028年前维持过半的配置占比。」

Counterpoint Research研究总监MS Hwang表示：「在HBM3E之前，HBM多被视为标准化产品，各客户之间差异有限。然而自HBM4开始，由于逻辑晶片将整合至base die，并进一步发展至HBM4E，市场将逐渐迈向客制化HBM。客制化HBM的采用将持续增加，以推动ASIC的专用效能提升。这为记忆体供应商带来重要机会，能透过将逻辑晶片设计成本反映在产品定价中，建立高价值业务，同时透过与客户的深度合作形成更稳定的需求锁定效应。」

谈及先进封装产能需求与发展动态，Counterpoint Research资深分析师Ashwath Rao表示：「目前TSMC仍是主要受益者，因为多数供应商仍采用其CoWoS-S与CoWoS-L解决方案。然而在TSMC产能持续受限的情况下，Counterpoint Research观察到Google及其他多家产业重要业者，正评估采用Intel的EMIB-T技术以满足下一代先进封装需求。若该技术成功导入，将成为产业重要里程碑，协助市场降低对TSMC的依赖，并提供更具成本效率且支援更大封装尺寸的可行替代方案。」

从供应商市占角度来看，全球HBM市场仍将维持高度集中，SK Hynix与Samsung在可预见的未来仍将保持主导地位。不过，市场内部的市占分配正持续变化。 Counterpoint Research预期Samsung将逐步扩大其市场版图，并加速缩小与SK Hynix之间的差距。随着Samsung成功克服过去的生产瓶颈，其良率稳定与产品效能提升，使其有机会在新一波AI基础架构部署中积极重新取得更多配额。由于这并非零和竞争，Counterpoint Research同时也关注Micron在客制AI伺服器加速器市场中取得设计导入(design win)，以及扩展HBM市场的能力。

针对AI云端服务供应商(CSP)需求集中度，Counterpoint Research研究总监Gunnar Thoresen表示：「Google仍是客制化晶片市场的主要驱动者。根据Counterpoint Research最新的供应链调查，Counterpoint Research对Google TPU生态系在2026~2027年期间的部署成长维持高度乐观。因此，Counterpoint Research已上修未来几代TPU的出货预测。这项积极的基础架构扩张将直接带动Google对HBM的需求大幅提升，并进一步巩固其作为全球先进记忆体产能核心客户的地位。」