半导体压力测试:芯片能效与先进封装能否突破“通电围墙”?— 2026-06-18
截至研究所工作日期 2026-06-18,本报告对上一张“通电围墙”主线做压力测试,而不是直接推翻。半导体进步可以显著提高每个已通电兆瓦的算力产出,尤其在推理侧更明显,但它不能凭空创造缺失的电网并网容量。结论是“部分对冲,而非物理治愈”:更高能效芯片、低精度计算、HBM 高带宽封装、NVLink 级机柜、液冷和功率平滑,可以提高 tokens/MW 并改善已投运园区的利用率;但单靠半导体无法抹平多年并网排队或变压器交付瓶颈。[S1][S2]
核心判断
半导体侧的证据很强。NVIDIA 称 GB200 NVL72 在一个液冷机柜级域内连接 72 颗 Blackwell GPU 和 36 颗 Grace CPU,提供 130 TB/s NVLink 通信能力,针对所列工作负载实现 30x 实时万亿参数 LLM 推理、4x LLM 训练和相对 H100 基础设施 25x 能效。[S3] GB300 NVL72 继续沿同一方向推进:72 颗 Blackwell Ultra GPU 和 36 颗 Grace CPU,FP4 Tensor Core FLOPS 密度提升 1.5x,attention 性能提升 2x,相对 Hopper 最高实现 5x TPS/MW,配备 37 TB 快速内存,并在稀疏条件下达到 1,440 PFLOPS FP4 Tensor Core 性能。[S4]
但物理约束仍然是站点 MW。Schneider Electric 的 NVIDIA GB300 NVL72 参考设计支持最高 142 kW 单柜功率,并支持在定制数据大厅内部署最多 1,152 颗 GPU。[S5] 这代表极强的算力密度,但不是更低的绝对功率密度。142 kW 单柜除以 72 颗 GPU,折合机柜层面约 1.97 kW/GPU-equivalent,且尚未计入设施侧开销;这个口径包含 CPU、交换、功率转换和机柜基础设施。[自测算:142 kW / 72 GPU,使用 S5] 半导体栈正在把更多算力压缩进更少机柜,而不是把大型 AI 工厂变成轻负荷用电设施。
对冲为何真实存在
第一,分母确实改善。H100 SXM 的可配置 TDP 最高为 700 W。[S7] Blackwell 通过两颗接近光罩极限的 die、208 billion 晶体管、定制 TSMC 4NP 工艺和 10 TB/s die-to-die 互连,把双 die 模块抽象成一颗逻辑 GPU,这正是降低单位有效计算通信能耗所需的先进集成路径。[S8] TSMC 将 CoWoS、InFO、TSMC-SoIC 和 TSMC-COUPE 定位为面向大规模互连和较低功耗的技术,其 2025 年报也明确把先进封装、芯片堆叠与高能效计算联系起来。[S11]
第二,先进封装瓶颈正在扩容。TrendForce 报道,TSMC CoWoS 月产能在 2025 年可能达到 75,000 片晶圆,接近 2024 年的两倍,并引用 TSMC 口径称 CoWoS 产能在 2022 至 2026 年的 CAGR 超过 50%。[S12] 这很关键,因为 CoWoS/HBM 产能不只是芯片供应变量;它决定了高带宽、低封装内通信能耗的设计能否规模化部署。[S11][S12]
第三,机柜级电能质量在改善。NVIDIA 称,GB300 NVL72 的新型带储能 PSU 可以平滑 AI 工作负载功率尖峰,并将峰值电网需求最多降低 30%,且该功能也会应用到 GB200 NVL72 系统。[S6] 这不是年度电量节省口径,但运营意义很强:公用事业和数据中心运营商既按平均负载,也按峰值负载来配置并网、开关设备和备电系统。[S2][S6]
第四,改善并非只来自 NVIDIA。AMD MI355X 采用 TSMC 3 nm / 6 nm FinFET 方案,具备 288 GB HBM3E、8 TB/s 峰值内存带宽、10.1 PFLOPS 峰值 MXFP4/MXFP6 矩阵性能和 1,400 W 典型板卡功耗。[S9] AMD 还称,在其指定测试条件下,8-GPU MI355X 平台运行 Llama 3.1-405B 在线服务推理吞吐相对 8-GPU MI300X 平台提升 35x。[S10] Google 也称,第七代 TPU Ironwood 提供 256-chip 和 9,216-chip 配置,相对 TPU v5p 峰值性能提升 10x,并且相对 Trillium 每芯片性能提升超过 4x。[S13] 因此,自研 ASIC 把能效改善路径从通用 GPU 扩展到更多架构,只是不同厂商的软件生态可迁移性不同。[S13]
为何仍无法突破“通电围墙”
公开电网数据的量级太大,不能忽视。美国能源部在总结 Lawrence Berkeley National Laboratory 报告时称,美国数据中心 2023 年用电量为 176 TWh,约占全美总用电量 4.4%;到 2028 年可能升至 325-580 TWh,约占全美总用电量 6.7-12%。[S1] Carbon Direct 在 2026 年对 PJM 和 ERCOT 的分析显示,两地共有 1,216 个活跃发电项目,合计 111.6 GW 发电容量和 64.3 GW 储能;平均并网等待时间为全国 25 个月、ERCOT 20 个月、PJM 40 个月,而数据中心负荷增长区内活跃项目等待时间为 36-48 个月。[S2]
这意味着,约束对象通常不是“芯片每焦耳能做多少工作”,而是“这个园区能否在建设节点前取得足够确定的 firm power”。以 NVIDIA 给出的 GB300/Hopper 推理口径看,5x TPS/MW 如果需求保持不变,理论上可以让单位固定推理输出所需功率最多下降 80%。[自测算:1 - 1/5,使用 S4] 但现实市场中,test-time scaling、更长上下文、多模态生成、agentic workflows 和更低推理价格,往往会把能效红利转化为更多使用量,而不是一比一降低签约 MW。[S1][S4][S13]
同样的问题也发生在机柜内部。GB200 相对 H100 基础设施 25x 能效提升,是针对特定实时 LLM 推理和训练对比得出的口径。[S3] 但 GB300 的部署参考设计已经围绕 142 kW 单柜展开。[S5] AMD MI355X 的板卡功耗为 1,400 W,也确认了行业趋势:最新加速器可以在单位输出上更省电,同时单器件绝对功耗更高。[S9]
压力测试矩阵
| 问题 | 半导体答案 | 对“通电围墙”的判断 |
|---|---|---|
| 固定推理工作负载 | 在 NVIDIA 所列推理场景下,GB300 相对 Hopper 最高实现 5x TPS/MW。[S4] | 如果需求固定,对冲很强;单位输出功率理论上可最多下降 80%。[自测算:1 - 1/5,使用 S4] |
| 前沿训练与推理需求 | GB200 相对 H100 提供 4x LLM 训练,GB300 相对 Blackwell GPU attention 性能提升 2x。[S3][S4] | 对冲较弱,因为前沿模型通常把能效红利用于更大训练、更长上下文和更多 test-time compute。[S4][S13] |
| 峰值功率与公用事业设备容量 | GB300 带储能 PSU 可将峰值电网需求最多降低 30%。[S6] | 对断路器、UPS 和负荷爬坡管理是中等对冲;但不能解决多年并网排队。[S2][S6] |
| 机柜与面积约束 | Schneider 的 GB300 参考设计支持最高 142 kW 单柜和 1,152 颗 GPU 数据大厅设计。[S5] | 算力密度大幅提升,但局部热管理和电气工程要求也同步提高。[S5] |
| 先进封装供给 | TSMC CoWoS 月产能在 2025 年可能达到 75,000 片晶圆,2022 至 2026 年 CAGR 超过 50%。[S12] | 有助于芯片可得性和高能效封装架构,但仍依赖 HBM、基板、测试和部署电力。[S11][S12] |
投资与研究含义
半导体受益者不应被简单理解为“更多 GPU”。更清晰的敞口是把电力容量转化为可销售 AI 产出的整套链条:先进封装、HBM 集成、高电流供电、液冷接口、机柜级互连、功率遥测和面向推理优化的自研 ASIC。[S3][S4][S5][S6][S11] 这支持一个杠铃配置:沿用前几张卡对稀缺电力/电气基础设施的偏好,同时配置能够提高已通电站点 tokens/MW 的先进封装和供电链条。[S1][S2]
对中国和亚洲供应链研究而言,国产替代角度应聚焦先进封装设备/材料、有机基板、热界面材料、液冷组件、高效率电源模块、数据中心侧光/电互连,而不是只把 AI 加速器厂商视为唯一可投层。[S11][S12] 原因是物理层面的:当电网接入稀缺时,胜出的半导体供应商是帮助客户更快变现每一个已通电 MW 的公司,而不只是峰值 FLOPS 最高的公司。[S4][S5][S6]
结论
压力测试后,我支持“通电围墙”主线,但给出一个修正。半导体创新会显著降低固定推理输出的功率成本,并可平滑峰值,因此能缓解已通电园区的收入延期风险。[S3][S4][S6] 但它不能消除尚未取得并网协议、变压器或确定公用事业容量的项目错过通电窗口的风险。[S2] 下一步问题应转向组合配置:估值权重应在多大程度上从单纯芯片厂商,转向“电气基础设施 + 先进封装/供电链”的组合?
资料来源 / Sources
[S1] U.S. Department of Energy, "DOE Releases New Report Evaluating Increase in Electricity Demand from Data Centers" — https://www.energy.gov/articles/doe-releases-new-report-evaluating-increase-electricity-demand-data-centers
[S2] Carbon Direct, "Carbon Direct releases new analysis of power grid interconnection queues in PJM and ERCOT" — https://www.carbon-direct.com/press/carbon-direct-releases-new-analysis-of-power-grid-interconnection-queues-pjm-ercot
[S3] NVIDIA, "GB200 NVL72" — https://www.nvidia.com/en-us/data-center/gb200-nvl72/
[S4] NVIDIA, "NVIDIA GB300 NVL72" — https://www.nvidia.com/en-us/data-center/gb300-nvl72/
[S5] Schneider Electric, "Schneider Electric Announces New Reference Designs, Featuring Integrated Power Management and Liquid Cooling Controls, Supporting NVIDIA Mission Control and NVIDIA GB300 NVL72" — https://www.se.com/ww/en/about-us/newsroom/news/press-releases/schneider-electric-announces-new-reference-designs-featuring-integrated-power-management-and-liquid-cooling-controls-supporting-nvidia-mission-control-and-nvidia-gb300-nvl72-68ca8fdd5e6c6f9d3a096133/
[S6] NVIDIA Developer Blog, "How New GB300 NVL72 Features Provide Steady Power for AI" — https://developer.nvidia.com/blog/how-new-gb300-nvl72-features-provide-steady-power-for-ai/
[S7] NVIDIA, "H100 GPU" — https://www.nvidia.com/en-us/data-center/h100/
[S8] NVIDIA, "The Engine Behind AI Factories: NVIDIA Blackwell Architecture" — https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/
[S9] AMD, "AMD Instinct MI355X GPUs" — https://www.amd.com/en/products/accelerators/instinct/mi350/mi355x.html
[S10] AMD, "AMD Instinct MI350 Series and Beyond: Accelerating the Future of AI and HPC" — https://www.amd.com/en/blogs/2025/amd-instinct-mi350-series-and-beyond-accelerating-the-future-of-ai-and-hpc.html
[S11] TSMC, "2025 Annual Report Website" — https://investor.tsmc.com/static/annualReports/2025/english/index.html
[S12] TrendForce, "TSMC Set to Expand CoWoS Capacity to Record 75,000 Wafers in 2025, Doubling 2024 Output" — https://www.trendforce.com/news/2025/01/02/news-tsmc-set-to-expand-cowos-capacity-to-record-75000-wafers-in-2025-doubling-2024-output/
[S13] Google Cloud, "Ironwood TPUs and new Axion-based VMs for your AI workloads" — https://cloud.google.com/blog/products/compute/ironwood-tpus-and-new-axion-based-vms-for-your-ai-workloads