微信扫码
添加专属顾问
我要投稿
NVIDIA H20 141GB显卡的崛起与HBM3e技术革新。 核心内容: 1. H20 141GB显卡市场需求激增背后的原因 2. H20显卡性能特点与市场竞争力分析 3. HBM3e技术发展及其对显存容量提升的影响
HBM3e
2014 年首款 HBM 产品问世,HBM1 首次采用 3D 堆叠技术,带宽达 128GB/s,每个堆栈的容量为 1GB。其通过独特的垂直堆叠技术和 TSV(硅通孔)技术,将多个 DRAM 单元紧密相连,并与 GPU 或 CPU 形成高效互联,构建出大容量、高带宽的 DDR 组合阵列。
此后 HBM 技术经历多代发展,容量、带宽以及数据传输速率都显著提升。如 SK 海力士成功研发出 HBM2E、HBM3 和 HBM3E 等多代产品;美光推出 HBM2 和 HBM2E 产品,并在 2023 年跳过 HBM3 直接推出 HBM3E 产品;三星推出了 HBM2E、HBM3 等产品,并计划在 2024 年发布首款 HBM3E 产品。HBM3E 是在 HBM3 的基础上进一步提升了带宽、延迟、能效和容量。
显存容量做到 141GB 的原因
HBM3e 采用了更先进的 3D 封装技术和垂直堆叠工艺。通过增加堆叠的 DRAM 芯片层数,在相同的物理空间内实现了更高的存储密度。例如,从 HBM2 的 8 层堆叠到 HBM3 的 12 层堆叠,增加了存储容量,HBM3e 可能在此基础上进一步优化了堆叠技术,使得单颗芯片的容量得以提升,进而实现了总容量的大幅增加。
以 H200 为例,其 141GB 的 HBM3e 显存可能是通过多个高容量的 HBM3e 芯片组合实现的。有猜测认为 H200 是采用了 6 个 24GB 的 HBM3e 堆栈,组成了物理容量为 144GB 的内存,不过 NVIDIA 出于产量等原因保留了部分容量,最终向用户提供 141GB 的可用显存。此外,GPU 内部的内存架构也进行了优化,包括数据通道的设计、内存控制器的改进等,使得能够高效地管理和利用大容量的显存。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-04-30
Browser Use - 让AI能够控制你的浏览器
2025-04-30
手搓完字节AI硬件,我做了个五一智能旅行小装置(附万字沉浸式教程)
2025-04-30
Deepseek时代,智能硬件能带来新的“GPT时刻”吗?
2025-04-30
什么?动动嘴就能让大模型帮你整理电脑桌面?!
2025-04-28
EdgeLLM:数据并行、端到端编译器与混合精度的 CPU-FPGA 加速架构
2025-04-28
Nacos 3.0 正式发布:MCP Registry、安全零信任、链接更多生态
2025-04-28
理想汽车AI新技术曝光,人工智能企业真不是李想说说而已。
2025-04-28
我见过最聪明的浏览器 Dia,别争论什么是AI Native产品了,这个就是!
2024-03-30
2024-05-09
2024-07-23
2024-07-07
2025-02-12
2024-07-01
2024-06-24
2024-06-23
2024-10-20
2024-06-08