2026年5月，美光基于1-gamma制程的256GB DDR5 RDIMM向核心服务器生态伙伴送样，传输速率最高可达9,200MT/s。该模块采用3D堆叠（3DS）与硅通孔（TSV）先进封装工艺，将多颗内存晶粒整合于单一模块中。单个256GB模块相较两个128GB模块可降低40%以上的运行功耗，为机架功耗受限的数据中心提供更高容量与能效选择。
256GB SOCAMM2 是美光科技面向数据中心推出的低功耗内存模块，2026 年 3 月开始向客户送样。该产品基于业界首款单晶粒 32Gb LPDDR5X 设计，相较标准 RDIMM，功耗降至其三分之一，尺寸亦缩小至三分之一。每颗 8 通道服务器 CPU 可配置 2TB LPDRAM 容量，支持更大的上下文窗口及更复杂的推理工作负载。
模块化SOCAMM2设计兼容液冷服务器架构，提升设备可维护性并为未来容量扩充预留路径。美光256GB DDR5 RDIMM则以9,200MT/s速率和单模块高容量，回应大语言模型、智能体AI、实时推理及高核数CPU负载增长带来的容量、带宽和能效需求。两类产品的适用范围不能仅按训练或推理场景简单划分。
在统一内存架构中，256GB SOCAMM2用于KV缓存卸载时，可将长上下文LLM推理的首个token生成时间加速2.3倍；在独立CPU应用中，针对高性能计算工作负载，每瓦性能较主流内存模块提升超3倍。美光指出，容量、带宽和功耗是决定AI效率的核心因素。这些指标分别对应特定产品和测试配置，实际选型应结合目标平台、容量、带宽、功耗和验证结果，不宜把DDR5 RDIMM与SOCAMM2固定为互斥的训练或推理方案。
DDR5 RDIMM与SOCAMM2提供了两种不同的数据中心内存路线：前者强调高容量DDR5服务器内存，后者强调低功耗CPU附加LPDRAM。具体选择需结合目标平台、容量、带宽、功耗和验证进度。制程方面，1γ DRAM节点采用新一代HKMG技术提升晶体管性能，并使用EUV光刻工艺提升容量密度。
基于1γ节点的LPDDR5X速率达10.7Gbps，功耗降低高达20%，封装尺寸缩小至0.61毫米；同一制程节点也已用于DDR5样品，并应用于192GB SOCAMM2。不同产品的推进表明1γ技术正在移动端和数据中心内存中扩展。美光同时在JEDEC SOCAMM2规范制定过程中持续发挥领导作用。
NVIDIA 数据中心 CPU 产品部门主管 Ian Finder 认为，先进 AI 基础架构需要在各个层面进行极致优化，256GB SOCAMM2 以低于传统服务器内存的功耗实现超大内存容量与带宽的突破。美光正与 NVIDIA 携手合作，共同设计高性能内存解决方案。
Q: 256GB DDR5 RDIMM 和 256GB SOCAMM2 在功耗上有何差异？
A: 256GB SOCAMM2 功耗仅为标准 RDIMM 的三分之一。256GB DDR5 RDIMM 相比两个 128GB 模块可降低 40% 以上运行功耗，但整体功耗水平仍高于同容量的 SOCAMM2 LPDRAM 方案。
Q: 256GB DDR5 RDIMM可支持哪些AI服务器需求？
A: 美光256GB DDR5 RDIMM面向大语言模型、智能体AI、实时推理及高核数CPU负载增长带来的容量、带宽和能效需求，速率最高可达9,200MT/s，目前已面向核心服务器生态系统合作伙伴送样。具体部署仍需完成目标平台兼容性验证。
Q: SOCAMM2 在推理场景中的核心优势是什么？
A: 在统一内存架构的KV缓存卸载测试中，256GB SOCAMM2可将长上下文、实时LLM推理的首个token生成时间加速2.3倍；在独立CPU的高性能计算工作负载中，每瓦性能较主流内存模块提升超3倍。上述结果对应特定测试配置，实际部署效果仍需结合目标服务器平台、内存配置和工作负载评估。
Q: 1γ 制程节点支撑了哪些产品线的内存制造？
A: 1γ 节点已明确用于 LPDDR5X（速率 10.7 Gbps）和 256GB DDR5 RDIMM（速率最高 9,200 MT/s），并采用新一代 HKMG 技术和 EUV 光刻工艺提升晶体管性能与容量密度。SOCAMM2 属于 LPDRAM 产品线，其具体制程节点应按相应容量版本的公开信息分别确认。
Q: DDR5 RDIMM 的 3DS 和 TSV 封装带来了哪些工程收益？
A: 3D堆叠与TSV工艺可将多颗内存晶粒整合于单一模块，支持美光256GB DDR5 RDIMM的高容量设计。与两个128GB模块相比，单个256GB模块可降低40%以上的运行功耗；具体节能来源和整机散热影响仍需更多工程数据验证。
Q: SOCAMM2 模块化设计对数据中心运维有什么实际影响？
A: 模块化设计可提升设备可维护性，支持液冷服务器架构，并为未来容量扩充提供条件。JEDEC规范制定有助于形成行业接口共识，具体平台兼容性仍需通过服务器平台和生态合作伙伴的联合验证确认。
