据EEnews europe报道,存储芯片大厂Sandisk正在联手SK海力士开发用于 AI 系统的高带宽闪存 (HBF) 规范。
人工智能热潮推动了对基于 DRAM 的 HBM 内存的需求,SK海力士是全球最大的HBM供应商,这也推动了SK海力士超越三星成为全球最大的存储芯片供应商。美国美光也在提高 HBM 内存堆栈的产量。到 2024 年,HBM 内存堆栈将占 DRAM 市场的 20%,是目前半导体行业的主要驱动力。
相对于成本高昂的HBM来说,HBF 是一种基于 NAND 闪存的内存技术,内置于类似 HBM 的封装中,可以带来容量的显著提升和成本的降低,并且数据断电后仍可保留。这标志着业界首次在将闪存和类似 DRAM 的带宽融合到单一堆栈中方面迈出了坚实的一步,有望彻底改变 AI 模型大规模访问和处理数据的方式。
与完全依赖 DRAM 的传统 HBM 不同,HBF 用PG电子平台 NAND 闪存替代了部分内存堆栈,以牺牲原始延迟为代价,能够以与DRAM型HBM相当的成本和带宽,提供高达DRAM型HBM约8到16倍的容量。并且,与需要恒定功率来保存数据的 DRAM 不同,NAND 是非易失性的,因此能够以更低的能耗实现持久存储。从应用端来看,与 HMB 不同,HBF 主要针对的是 AI 推理工作负载,而不是在大型数据中心、小型企业和边缘应用程序中进行训练。
一个技术顾问委员会正在指导开放HBF规范的开发,尽管这是基于专有的 Sandisk BiCS(比特成本可扩展)工艺技术和专有的 CBA 晶圆键合,并在过去一年中根据包括竞争对手铠侠在内的领先人工智能行业参与者的意见开发。自从铠侠从西部数据分拆出来以来,Sandisk 一直在与铠侠进行合并讨论。
Sandisk 的目标是在 2026 年下半年交付其 HBF 闪存的第一批样品,首款集成该技术的 AI 推理硬件预计将于 2027 年初推出。这表明它正在使用其 BiCS9 技术。该公司已经在对其 BiCS9 提供样品,并已今年2月份的 ISSCC 2025 会议上展示。
与目前大规模生产的第8代3D闪存相比,NAND接口速度提高了33%,达到了HBF性能所需的4.8Gb/s接口速度。目前出货的HBM3e芯片堆叠的接口速度为每引脚9.2Gbit/s。
Sandisk 表示,BiCS9 技术还可以提高数据输入/输出的能效,将输入功耗降低 10%,输出功耗降低 34%。通过将存储器层数增加到 332 层并优化平面图以提高平面密度,该技术将位密度提高了 59%。
“他们的集体经验和战略建议将有助于将 HBF 塑造成人工智能行业的未来内存标准,并确认我们不仅满足而且超越了客户和合作伙伴的期望,”Sandisk 执行副总裁、首席技术官兼 HBF 技术顾问委员会成员 Alper Ilkbahar 说。
Patterson 是加州大学伯克利分校计算机科学名誉教授,也是 Google 杰出工程师,他将领导技术顾问委员会并指导该小组做出可作的见解和决策。
Patterson 表示:“HBF 通过在高带宽下提供前所未有的内存容量,使推理工作负载能够远远超出当今的限制,从而在数据中心人工智能中发挥重要作用,从而有望发挥重要作用。它可以降低目前无法负担的新人工智能应用程序的成本。”
Koduri 是初创公司 Oxmiq Labs 的首席执行官,曾担任 AMD 的高级副总裁兼首席架构师,并在英特尔担任加速计算系统和图形执行副总裁。他指导了 AMD 的 Polaris、Vega 和 Navi GPU 架构、英特尔的 Arc 和 Ponte Vecchio GPU 的开发,并带头进军独立显卡领域。他也是 Tenstorrent 的董事会成员。
Koduri 表示:“HBF 将通过为设备配备存储容量和高带宽功能来彻底改变边缘人工智能,这些存储容量和高带宽功能将支持在本地实时运行的复杂模型。“这一进步将开启智能边缘应用的新时代,从根本上改变人工智能推理的执行方式和地点。”
“通过与 SK 海力士合作定义高带宽闪存规范,我们正在满足人工智能行业对可扩展内存的关键需求,”Sandisk 执行副总裁兼首席技术官兼 HBF 技术顾问委员会成员 Alper Ilkbahar 说。“这种合作加速了创新,并将为行业提供新的工具来处理未来应用程序的指数级数据需求。我们的工作将有助于提供有效的解决方案,以满足全球的技术需求,并超越我们各自客户的期望。”
SK海力士总裁兼首席开发官(CDO)Hyun Ahn博士表示:“对应对下一代计算挑战的解决方案的需求不断增加,通过与Sandisk合作标准化高带宽闪存规范,我们正在积极为这项创新技术的商业化做出贡献,我们相信这是释放人工智能和下一代数据工作负载全部潜力的关键。”