SK海力士和SanDisk开始标准化高带宽闪存,这是介于HBM与SSD之间的中间存储器。
SK Hynix 与 SanDisk 宣布在 Open Compute Project 计划中推出新一层内存——高带宽闪存(High Bandwidth Flash,简称 HBF)
什么是 HBF
* 定位:
HBF 是介于超高速内存 HBM 与大容量 SSD 之间的“中间”级别。
它填补了 HBM 高吞吐量与 SSD 大容量之间的空白,同时提供 AI 所需的扩展容量和能效。
* 在架构中的功能:
与主要提供高速的 HBM 不同,HBF 作为辅助内存层,补充整体系统。
SanDisk 对 HBF 的看法
| 特性 | SanDisk 表现 | 技术 |
|---|---|---|
| NAND 内存 | 使用 BiCS NAND 和 CBA(CMOS Direct Bonded to Array)技术 | 8–16 倍于 HBM 的容量,吞吐量相当 |
| 成本 | 与典型系统配置中的 HBM 大致相当 |
第一代堆栈
* 读取吞吐量:最高 1.6 TB/s(每颗芯片 256 Gb/s)。
* 整体堆栈容量(16 芯片):高达 512 GB。
* 物理尺寸:设计与 HBM4 的尺寸、功耗和高度相匹配,集成方式类似现代 AI 加速器上的 HBM 堆栈。
性能
内部测试显示,在基于 8 位 Llama 3.1 405B 配置的负载下,HBF 与“无限容量 HBM”仅差 2.2%。
*注意:比较使用的是假设的无容量限制 HBM,因此并未直接衡量更大容量带来的收益。*
非易失性
HBF 在断电后仍能保存数据——与需要持续供电以保持数据的 DRAM 不同。
未来规划(Gen 2 与 Gen 3)
| 代数 | 目标读取吞吐量 | 堆栈容量 | 能耗(相较于 Gen 1) |
|---|---|---|---|
| Gen 2 | > 2 TB/s | ≤ 1 TB | 0.8× Gen 1 |
| Gen 3 | > 3.2 TB/s | ≤ 1.5 TB | 0.64× Gen 1 |
接下来
* 标准化:SK Hynix 与 SanDisk 已将 HBF 定为 Open Compute Project 的下一步。
* 推广:具体时间表尚未公布。
因此,HBF 有望成为新的“中间”内存层,将 HBM 的速度与 SSD 的容量结合,同时保持能效并兼容现有 AI 加速器。
评论 (0)
分享你的想法——请保持礼貌并围绕主题。
登录后发表评论