2024年存储芯片航天专题分析：HBM何以成为AI芯片核心升级点_全面理解AI存储路线

　　2024 年存储芯片航天专题分析：HBM 何以成为 AI 芯片核心升级点_全面理解 AI 存储路线图 一、AI 存储路线图：更大容量、更大带宽、更低功耗 大模型规模指数级增长，内存带宽和容量需求激增。大模型的参数指数级增长，不 仅推升了处理器的算力需求，同时也对与处理器匹配的内存系统提出了更高的要求。 一方面，大量模型数据的传输要求更大的内存带宽，以缓解“内存墙”问题，提升 HPC系统计算效率；另一方面，内存系统的容量需要大幅拓展，以存储千亿参数乃 至更大规模的大模型。 根据美光发布的 AI内存路线图，AI内存的发展方向主要为带宽、容量、功耗和低碳 四个方向。高带...

　　2024 年存储芯片航天专题分析：HBM 何以成为 AI 芯片核心升级点_全面理解 AI 存储路线图 一、AI 存储路线图：更大容量、更大带宽、更低功耗 大模型规模指数级增长，内存带宽和容量需求激增。大模型的参数指数级增长，不 仅推升了处理器的算力需求，同时也对与处理器匹配的内存系统提出了更高的要求。 一方面，大量模型数据的传输要求更大的PG电子网站内存带宽，以缓解“内存墙”问题，提升 HPC系统计算效率；另一方面，内存系统的容量需要大幅拓展，以存储千亿参数乃 至更大规模的大模型。 根据美光发布的 AI内存路线图，AI内存的发展方向主要为带宽、容量、功耗和低碳 四个方向。高带宽应用方面，HBM是目前带宽最高的内存标准，12-16 层 HBM4 预计 将于 2026 年推出，将每个堆栈的带宽提高至 1.4 TB/s以上，容量提升至 36-48 GB。 HBM4E预计将于 2028年推出。GDDR作为性价比较高的选项应用于推理、图形等领 域，数据传输速率为 32 GT/s，容量为 16-24Gb的 GDDR7预计PG电子网站于 2024年底推出，并 在 2026年数据传输速率达到 36 GT/s。