《科技》美光HBM3E 導入AMD AI平臺

美光HBM3E 12層堆疊36GB記憶體解決方案爲AMD Instinct MI350系列GPU平臺帶來領先業界的記憶體技術，提供卓越的頻寬表現和更低的功耗。AMD Instinct MI350系列GPU平臺採用AMD先進的CDNA 4架構，整合288GB高頻寬HBM3E記憶體，可提供高達8 TB/s的頻寬。憑藉如此龐大的記憶體容量，Instinct MI350系列GPU可在一顆GPU上高效支援高達5200億個參數的AI模型。在完整平臺配置中，Instinct MI350系列GPU可搭載高達2.3TB容量的HBM3E記憶體，並在FP4精度下實現高達161 PFLOPS的峰值理論效能，具備頂尖的能源效率和可擴充性，適合高密度AI工作負載。如此緊密整合的技術架構，與具高能源效率的美光HBM3E記憶體相輔相成，爲大型語言模型訓練、推論和科學模擬任務提供卓越的傳輸效能，不僅有助資料中心順暢無礙的擴展，更能達成每瓦運算效能的極大化。美光和AMD攜手合作，有效縮短AI解決方案的上市時間。

美光副總裁暨雲端記憶體產品事業羣總經理Praveen Vaidyanathan表示，透過美光與AMD的緊密合作和共同在工程技術開發的努力，公司最佳化HBM3E 12層堆疊36GB記憶體與Instinct MI350系列GPU和平臺的相容性。美光HBM3E的產業領導地位和技術創新能爲終端客戶提供更優異的總體擁有成本(TCO)效益，併爲要求苛刻的AI系統實現高效能。