微信扫码
添加专属顾问
我要投稿
NVIDIA H20 141GB显卡的崛起与HBM3e技术革新。 核心内容: 1. H20 141GB显卡市场需求激增背后的原因 2. H20显卡性能特点与市场竞争力分析 3. HBM3e技术发展及其对显存容量提升的影响
HBM3e
2014 年首款 HBM 产品问世,HBM1 首次采用 3D 堆叠技术,带宽达 128GB/s,每个堆栈的容量为 1GB。其通过独特的垂直堆叠技术和 TSV(硅通孔)技术,将多个 DRAM 单元紧密相连,并与 GPU 或 CPU 形成高效互联,构建出大容量、高带宽的 DDR 组合阵列。
此后 HBM 技术经历多代发展,容量、带宽以及数据传输速率都显著提升。如 SK 海力士成功研发出 HBM2E、HBM3 和 HBM3E 等多代产品;美光推出 HBM2 和 HBM2E 产品,并在 2023 年跳过 HBM3 直接推出 HBM3E 产品;三星推出了 HBM2E、HBM3 等产品,并计划在 2024 年发布首款 HBM3E 产品。HBM3E 是在 HBM3 的基础上进一步提升了带宽、延迟、能效和容量。
显存容量做到 141GB 的原因
HBM3e 采用了更先进的 3D 封装技术和垂直堆叠工艺。通过增加堆叠的 DRAM 芯片层数,在相同的物理空间内实现了更高的存储密度。例如,从 HBM2 的 8 层堆叠到 HBM3 的 12 层堆叠,增加了存储容量,HBM3e 可能在此基础上进一步优化了堆叠技术,使得单颗芯片的容量得以提升,进而实现了总容量的大幅增加。
以 H200 为例,其 141GB 的 HBM3e 显存可能是通过多个高容量的 HBM3e 芯片组合实现的。有猜测认为 H200 是采用了 6 个 24GB 的 HBM3e 堆栈,组成了物理容量为 144GB 的内存,不过 NVIDIA 出于产量等原因保留了部分容量,最终向用户提供 141GB 的可用显存。此外,GPU 内部的内存架构也进行了优化,包括数据通道的设计、内存控制器的改进等,使得能够高效地管理和利用大容量的显存。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-05-27
企业当前适合引入大模型驱动的智能运维吗?
2025-05-26
AI 硬件产品怎么做?——儿童智能硬件
2025-05-24
微软CEO:不卷大模型,微软要造AI时代的通用工具箱
2025-05-24
我们是否应该用 Lite-GPU 构建 AI 集群?
2025-05-24
Kubernetes为Mastercard的AI工作台提供安全创新能力
2025-05-22
Genspark:AI Agent 赛道的差异化突围者 | AI 智能体
2025-05-22
微软发布多智能体 Web 操作系统!让 AI 成为真正“可控、协同、透明”的网页执行助手!
2025-05-21
Spring AI Alibaba 发布企业级 MCP 分布式部署方案
2024-03-30
2024-05-09
2024-07-23
2024-07-07
2025-02-12
2024-07-01
2024-06-24
2024-10-20
2024-06-23
2024-12-29
2025-05-27
2025-05-24
2025-05-17
2025-05-14
2025-05-12
2025-05-09
2025-04-30
2025-04-26