内存墙逼出两大杀器!HBF容量是HBM的16倍、HBC超HBM六倍
快科技9月17日消息,据报道,在近日于硅谷举行的AI基础设施峰会上,内存短缺被列为核心障碍。
面对AI推理带来的内存需求激增,传统HBM已难兼顾容量与成本。峰会因此将目光投向新型存储架构,HBF(高带宽闪存)和HBC(高带宽计算)成为焦点,分别从大容量和高能效两个方向寻求突破。
HBF定位介于HBM与SSD之间的存储层级,采用TSV硅通孔技术垂直堆叠NAND闪存,兼顾高带宽与大容量。
SK海力士与闪迪于2026年8月通过OCP发布了首个HBF标准规范,最高容量可达512GB,带宽覆盖0.4TB/s至3.0TB/s。谷歌与Tenstorrent已加入HBF联盟。
据闪迪公布的数据,在封装尺寸、堆叠高度和功耗与HBM4基本相当的前提下,HBF容量可达HBM的8至16倍。SK海力士仿真结果显示,采用8组HBM3E与8组HBF的组合配置,每瓦性能可提升至纯HBM方案的2.69倍。
不过HBF并非没有短板。据TrendForce报道,GPU IP公司OXMIQ Labs在Hot Chips 2026上指出,在72 GPU机架运行1万亿参数模型的模拟中,用HBF替代HBM虽可将内存容量从20.7TB提升至294.9TB,但聚合带宽仅为HBM的约60%。
因此,HBF更适合存储不常访问的MoE专家池和KV缓存,而非全面替代HBM。
另一条路线HBC由高通主推。HBC将多个LPDDR芯片垂直堆叠在加速器上方,通过近存计算将部分计算逻辑直接放到内存下方。高通数据显示,完整加速器级别下,HBC单位功耗带宽是HBM的6倍,单位功耗存储容量是SRAM的200倍。
三星和SK海力士已主动提出与高通合作推进HBC商业化,台积电负责整合封装工艺。第一代HBC产品预计2027年出货,将集成到高通AI250推理加速器中。
不过HBC目前仅适用于推理场景中内存带宽受限的解码阶段,预填充阶段仍以计算能力为主导。
