6个芯片1500美元，成本占GPU的一半，英伟达，AMD抢疯了。

山姆·奥特曼作为一名“AI思想家”，频繁出现在世界各大科技、经济活动的讲台上，言必称“算率”。

我还在《黄仁勋人肉快递》中提到，900亿美元的算率竞争，来源无非是两种方式:购买和自主研究。现在硅谷巨头基本都是两条腿走路，边买边自己开发结局。就连苹果也被报道与台积电进行了4年的推理芯片项目ACDC。（Apple Chip in Data Center）。

英伟达是主流GPU供应商，AMD、这些Intel，但是每年可以生产数百万个GPU的前提是上游供应商可以提供足够的零部件，比如最关键的HBM存储芯片。

就拿H200来说，一个逻辑芯片要配6个HBM存储芯片，到GB200，一个逻辑芯片要配8个HBM存储芯片，整体需求会在现有的基础上增加30%以上。TrendForce预计，2025年GB200的出货量将达到100万个，单是这个产品，对HBM存储的需求就会达到800万个。

01 HBMAI带火

HBM（High Bandwidth Memory），中文翻译是高带宽内存，因为近年来选择了大量的GPU产品而流行起来(如下图所示)，但实际上并不是一个特别新的概念，2013年被固态技术协会定位为行业标准。

主要GPU制造商的主流产品对应HBM型号，来源：TrendForce

2015年，AMD Radeon R9 Fury HBM内存首次应用于X行业，但由于当时对深度学习向量计算的需求尚未爆发，并且HBM与GPU/CPU封装在一起，与DDR内存空间相比，作为初期技术成本过高，难以大规模应用于消费级产品。

高到什么程度？AMD RX 当时Vega配备了2个HBM2内存，BOM费用约为160美元，单个费用约为80美元，是GDDR5的数倍。 / GDDR5X，TrendForce估计，HBM的单价是DDR的5倍，而且随着计算能力需求的增加，HBM的价格也在上涨，这一差距将进一步扩大。

昂贵，还得用，问题在于处理器与内存之间存在数据交换的瓶颈。

HBM的高带宽与主流存储方案相比，在处理数据交换瓶颈方面具有天然优势。根据Embedded整理的数据，每一堆16GB的HBM2e带宽达到460.8GB/s。

在结构上，传统方案一般是存算分离结构，处理器是Cpu，内存是内存，存储颗粒和逻辑芯片是分离的，而使用3D堆叠的HBM内存是通过CoWoS和逻辑芯片封装的。

1GB GDDR5和1GB HBM的die size对比，来源：网络：

从视觉上看，CoWoS封装的直接收益是GPU的尺寸更小，当然HBM内存本身的尺寸也很小，同样是1GB存储，GDDR5的尺寸约为672mm。²，而且HBM只有35毫米²，差距接近20倍。

这一尺寸的差距，比如R9，在PCB板上表现得更加明显， 290X，芯片 PCB内存匹配面积达到9900mm。²，而且使用CoWos封装方案，总面积不到4900mm。²，它占PCB板面积的近一半。

与HBM存储性能不同的GDDR5来源：AMD

在3D堆叠和CoWoS封装的基础上，HBM的显存带宽有了很大的提高，2015年，AMD官方提供了一个PPT(如上图所示)，AMD将HBM称为“与GDDR5不同的内存”，并在硅通孔的基础上清晰地描述了HBM。（TSV）HBM内存、位宽、带宽和工作电压的技术差异。

总之，HBM解决了大量数据计算面临的核心带宽问题，在尺寸和功耗方面也比GDDR5具有明显的优势。

02 HBM费用占3000美元的一半。

简而言之，HBM内存价格昂贵，你可能没有概念，如果把它放在整个GPU的成本上，那就直观了。

预计H100的BOM费用在3000美元左右，80GB的HBM存储费用在1500美元左右，也就是18.75美元/GB，核心逻辑芯片约300美元，SXM模块成本在300美元以下，包装基板和CoWoS约300美元。

换言之，储存的总成本占GPU材料成本的一半。

目前，主流供应商正在加快生产提升的步伐，SK海力士预计今年的生产能力将翻一番。三星是最激进的。在今年的CES中，三星预计HBM的年生产能力将增加2.4倍。在3月底的MEM会议上，这一预期将增加到2023年的2.9倍，而2026年和2028年将分别增加到2023年的13.8倍和23.1倍。

SK海力士、三星和美光都提高了HBM的生产能力来满足GPU客户的需求，但是今年和明年的生产能力基本上都被抢走了。

去年12月，韩国媒体披露，英伟达向SK海力士和美光下订购了13亿美元，而著名硬件网站tomshardware援引了这一消息，估计这笔预算约为10.8 亿美金到 15.4 一亿美元之间，并且是为了确保H200这个产品的HBM供应安全。

按照前面的BOM成本，一个GPU和六个HBM的成本是1500美元，这个预算也只能满足86.6万个HBM内存需求。

2022-2024 HBM市场份额，来源：TrendForce

去年8月，TrendForce整理了HBM近三年的市场份额(如上表所示)，SK海力士和三星一直是市场的主角，其中SK海力士是英伟达HBM3的主要供应商，三星主要为其他云厂服务，但也刚刚通过了英伟达的供应商认证，两者占据了绝大多数市场份额，美光的整体市场份额约为5%。

TrendForce认为，今年HMB3仍是市场主流，市场份额将超过60%，8层和12层HBM3e的累计份额约为25%。

此前，SK海力士宣布，今年Q2将开始少量出货12层HBM3e，美光决定在3月份开始交货，而三星将在9月份逐步向英伟达供货(黄仁勋将在GTC上还给三星的12层HBM3e签名：Jensen huang认证)。

这就是说，三个供应商将在第三季度拉响HBM3e市场竞争，大规模供应相关产品。

需求量大，价格也随之起飞。

Avrill分析师TrendForce 根据Wu引用产业链的消息，2025年的HBM定价谈判已经在今年第二季度开始。由于DRAM产能的不足，主要供应商明确表示，价格上涨预计在5%-10%之间。涨价的原因可以归结为三个:客户需求旺盛、HBM3e良率低、成本高、供应商产能和可靠性差异。

但是，基于DRAM的HBM产量大幅提升，也会间接降低其他产品的产能，这也意味着消费市场也可能面临冲击，TrendForce预测最大涨幅可能达到20%，因此AI接下来将会 PC价格上涨意味着你也在为AI产业的发展买单。

03 国产HBM最快来年问世。

HBM又是提产，又是涨价，国内现状如何，这大概是很多人关心的话题。

这一问题大致可以从两个方面来看，第一，国产GPU能否购买HBM内存；第二，国产HBM进展如何？

据公开资料显示，国内GPU已经在使用HBM内存，但先进产品产能有限，国内主要采购前两代产品，如HBM2e。此外，由于BIS的限制，相关产品不能直接通过SK海力士、三星和美光供应，但可以通过上述供应商在全球代理商的渠道采购一些特殊方式，然后将控制器和逻辑芯片结合起来，使用CoWoS完成GPU的包装。

CoWoS封装横截面，其中蓝色为3DHBM内存，绿色为主板芯片，粉色为逻辑芯片，橙色为硅中介层，灰色为封装基板，来源：Rambus

除了采购HBM内存的特殊方式外，DRAM颗粒也可以直接采购，但需要原厂预留TSV孔，方便使用国产线对HBM进行堆叠和包装。当然也可以直接采购裸晶包装成DRAM颗粒，然后通过TSV硅通孔技术将堆叠包装成HBM内存，再利用国产CoWoS产能完成GPU包装。

与台积电等少数厂商的全链CoWoS封装能力不同，大陆的封装分为CoW和WoS两部分，由不同的厂商完成。但是，在产能不足的情况下，台积电的部分CoWoS也会被拆分成这种形式，例如台积电完成CoW部分，然后由日月、Amkor等制造商完成WoS部分。

据此前产业链消息，Amkor已进入英伟达的供应商系统，获得L40S的包装订单，并在CoWoS中进行包装。如果英伟达的订单将来在台积电亚利桑那工厂生产，而且由于台积电在美国没有先进的包装生产线，Amkor很可能会得到这些订单。

回到正题，将CoWoS分为两部分:CoWoW和WoS。核心在于技术的成熟度，其次是两部分的良率同步。这可能是目前的挑战之一，Know需要很长时间。 how和合作可以提高良率，降低成本。

关于国产HBM的进展情况，本质上是回答国产HBM的问题。 目前，合肥、武汉、泉州、深圳都有相关企业在布局DRAM颗粒自主研发的进展。很多前三个地方的厂商应该都很熟悉，深圳升维旭属于新进入者。

深圳升维旭于2022年3月成立，专注于通用DRAM芯片的研发和生产。同年6月，日本半导体教父、尔必达总统坂本幸雄担任首席战略官。不幸的是，坂本幸雄于今年2月14日因心肌梗塞去世，享年76岁。

根据核心事务重重专栏作者Morris 根据Zhang的说法，盛维旭预计明年将尽快取出相关的实用SKU。第一代产品可能会堆放在更高的节点，颗粒密度更小，频率/位宽/带宽规格更小。

与此同时，一些国内制造商也在进行更先进的晶体管结构研究。例如，在去年年底的69届IEEE国际电子元件年会上，长鑫发表了一篇论文，描述了环绕闸极结构GAA(三星3nm节点导入的结构)技术，被解读为突破3nm技术。

客观来说，论文本质上只是一种技术展示，不能等同于技术突破。长鑫还发表声明称，论文描述了与DRAM结构和4F的结构。²与目前6F相比，存储单元结构设计可行性有关的基础研究²结构，使用4F²结构，在不影响工艺节点的情况下，可以实现芯片尺寸微缩30%)，与当前的生产工艺无关。

长鑫的回复符合国产芯片现状的客观逻辑。现在基本不可能和SK海力士、三星等存储巨头打成平手，但反映出来的趋势至关重要——面对很多挑战，国内厂商还在继续投资先进存储技术的研发，这可能是一个真正应该开心的点。毕竟这是国内存储，甚至是国内芯片行业的火焰和希望。

本文来源于“腾讯科技”，作者：苏扬，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com