AWS最新晶片Trainium 3預計明年底上市 由臺積電操刀
AWS雲端年會(AWS:Invent 2024)臺灣時間今日凌晨正式開幕,AWS 執行長執行長加爾曼(Matt Garman)指出AI是沒有終點線的競賽,將普及百工百業,他在會中公佈AWS最強自研晶片 Trainium3,採3奈米制程,預計明年底問世,並公佈 AWS將以電源、冷卻和硬體設計創新打造全新AWS數據中心,預計2025年初在美國開始動工興建。並展示新AI伺服器架構,挑戰輝達(NVIDIA)AI伺服器產業的霸主地位。
加爾曼表示,AWS在未來針對AI、運算新功能和產品顛覆性升級。在主題演講中,他發表新的伺服器Trn2 UltraServers,用以串聯更多的晶片,訓練成本較競爭對手NVIDIA下降,
據瞭解,新的Trainium 3將由臺積電(2330)操刀,明年底問世,新的伺服器Trn2 UltraServers搭載AI晶片Trainium2,採用新技術的超級電腦,AI新創公司Anthropic將是率先採用新技術的用戶,蘋果也是Trainium2晶片的客戶。
加爾曼表示,下一代AI晶片Trainium3明年底上市,用以滿足生成式AI訓練與推理的高需求負載,與上代Trainium2 相比,運算能力增加2倍,能源效率提升40%,並以更高的運算能力和更低的成本吸引客戶。