SK海力士联合闪迪，通过开放计算项目（OCP）发布了《High Bandwidth Flash（HBF）High-Level Base Die Specification, Version 0.7.0》，将高带宽内存（HBM）的思路迁移到NAND闪存上，旨在把大容量闪存放到GPU等各类xPU旁，以缓解AI推理中的内存墙问题。这份约130页的规范首次明确了HBF的系统定位、性能目标与工程代价，谷歌和Tenstorrent在致谢中被列为规范的反馈与建议提供方。
HBF的构想源于HBM的成功经验：通过堆叠和共封装，将存储介质移近计算单元，减少数据搬运开销。但HBF与HBM角色不同——HBM以DRAM提供低延迟、高读写带宽的工作内存，而HBF利用容量更大的NAND，在保持较高聚合读取带宽的同时，承接原本存放在SSD或网络存储中的大规模、以读取为主的数据，如模型权重。OCP规范将HBF正式定义为“非一致性的、以内存为中心的闪存设备”，紧邻GPU、TPU或其他xPU，目的是通过附加TB级额外内存容量来增强HBM。因此，HBF既不是取代HBM，也不是简单扩容，而是在高带宽内存与传统存储之间增加了一个新的内存层级。
一个HBF设备由Base Die、NAND Core Die堆叠以及连接两者的TSV通道构成。Base Die并非无源互连层，它管理UCIe协议、控制主机接口与NAND die之间的数据移动，并处理ECC、错误报告、传输调度等任务。xPU通过UCIe 3.0接口与HBF连接，采用AXI作为通信协议。规范规定，一个HBF堆叠最多支持16个主机通道，每个通道使用独立的UCIe链路并拥有独立的本地地址空间，通道之间不能互相访问数据。这种通道化架构意味着HBF并非一个统一的闪存池，性能取决于主机如何在多个独立资源间分布数据和请求。
HBF的带宽目标最高约3TB/s，但这并非单颗NAND的性能，而是通过16条主机通道、多Die、多Bank和多阵列并行汇聚而成。规范定义了三个性能等级，参考配置采用16颗NAND Die、每通道16个Bank和4KiB NAND页，总容量为512GiB（约合550GB），并允许更高容量堆叠。即使聚合读取带宽进入HBM量级，HBF在延迟、写入能力、访问粒度和耐久性上仍与HBM有显著差异。
HBF最自然的工作负载是模型权重，因其在推理期间基本保持不变，适合读取优化、高容量的NAND层级。但规范将应用范围延伸至KV Cache、多模型、MoE和Agent工作负载。对于多个模型，规范提供了两种布局：将每个模型交错在所有通道上以利用完整带宽，或将不同模型分配到专用通道组以避免争用。KV Cache是更重要的扩展——它在推理过程中持续增长并不断读写，规范期望主机理解工作负载结构并安排数据布局，使HBF成为推理运行时生成数据的存储目标。
NAND介质的物理约束并未因HBF而消除。闪存以块和页为单位组织，规范使用4KiB页并支持4KiB对齐的突发写入，小于4KiB的写入先在Base Die中缓存。NAND不支持随机覆盖写入，重写必须整块擦除后按顺序重写。这些规则对静态权重相对友好，但对KV Cache这类频繁小粒度写入的数据则构成挑战。规范建议以通道粒度分区，将模型权重与KV Cache分开存储，以避免降低耐久性和容量利用率。
HBF的管理职责介于HBM和传统SSD之间。Base Die保留设备侧控制能力，但数据布局、部分磨损管理和异常恢复需要主机软件参与。主机必须了解工作负载特点，估算权重和KV Cache的容量需求，并决定数据如何映射到各通道。这种协同要求硬件、固件、运行时软件与工作负载的数据布局紧密配合，正是HBF最核心的取舍：它把大容量NAND移到更靠近计算的位置，同时也将NAND管理复杂性转移到了Base Die和加速器的软件栈上。