美光 推低功耗SOCAMM2
該產品採用美光最新1γ(1-gamma)製程技術,能源效率提升逾20%,並在相同尺寸下提供50%更高容量。
SOCAMM2延續美光首代LPDRAM SOCAMM設計,強化頻寬與功耗表現。
由於容量擴增,該模組可使AI推論中首個token生成時間(TTFT)縮短超過80%,大幅提升即時推論效能。
在全機櫃AI部署架構下,SOCAMM2可支援超過40TB的CPU直連主記憶體,使其節能優勢更爲顯著。模組化設計亦便於維修與升級,爲未來AI平臺的可擴展性鋪路。
SOCAMM2是美光與NVIDIA五年合作成果之一,將LPDDR5X的低功耗與高頻寬特性帶入伺服器應用。透過嚴格的設計與測試流程,美光成功將原爲行動裝置開發的低功耗DRAM升級至資料中心級品質,滿足高可靠度與高穩定性需求。
相較同等級RDIMM,SOCAMM2能源效率提升超過三分之二,體積僅爲後者的三分之一,有效提高資料中心的空間利用率與液冷伺服器設計靈活度。
美光並積極參與JEDEC SOCAMM2標準制定,與業界夥伴合作推動低功耗記憶體普及,加速AI資料中心的節能轉型。
SOCAMM2單一模組容量高達192GB,傳輸速度達9.6Gbps,現已提供樣品給主要AI伺服器客戶,量產時程將依客戶產品導入計劃而定。
美光預期,該模組將成爲AI伺服器低功耗主記憶體的主流解決方案,爲全球AI基礎架構開啓新一代高效能、低能耗時代。