Grok 4推升算力 臺積電引領晶圓級晶片革命

圖爲臺積電。圖/本報資料照片

臺積電先進封裝路徑

馬斯克(Elon Musk)旗下的人工智慧公司xAI正式發佈Grok 4,宣稱爲「世界上最強AI模型」。背後Dojo系統爲最大功臣,就是臺積電引領全球System on Wafer(SoW)封裝技術,將晶圓視爲一個完整的系統,透過極致精密的晶圓級互連與整合,實現特斯拉的宏大藍圖;相關業者分析,SoW算力至少是CoWoS的5倍以上。市場看好臺積電在先進封裝領域可望維持技術領先優勢。

AI大模型參數以「億」爲單位狂飆,算力需求兩年暴增千倍,Grok 4的推出,再爲大型語言模型之戰掀波瀾。

由AI晶片支撐龐大算力,xAI現階段以輝達、AMD之資料中心應付需求,然而,單晶片GPU由於物理尺寸限制,算力提升逼近極限,另外在多晶片互聯十,數據在晶片傳出會產生延遲及耗損,導致整體性能無法隨晶片數量呈線性成長。

晶圓級晶片被認爲是未來的突破口,Dojo系統透過Chiplet(小晶片)方式,在晶圓尺寸的基板上整合25顆D1晶粒(Die),在645平方毫米的晶片上放置500億個晶體管,單晶粒提供362 TFlops之運算能力,合起來單一Dojo擁有9 Petaflops(每秒千兆次)的算力。

由臺積電InFO-SoW進行打造,今年底AI超級電腦Dojo 2系統將進入量產。半導體業者透露,SoW爲晶圓級封裝技術,相較於傳統的2D封裝,InFO-SoW透過3D堆疊與重佈線層(RDL)實現高密度互連。

未來將消耗更多先進封裝產能,採用CoWoS技術的晶片堆疊版本SoW-X預計於2027年準備就緒,能夠整合SoIC、HBM及其他元件,打造一個強大且運算能力媲美資料中心伺服器機架晶圓級系統。

散熱也將會是商機,法人認爲,SoW-X可視爲大型模組封裝,在整塊晶圓上封裝16顆ASIC及數十顆HBM,使得良率控制成爲最大挑戰。此外,9倍光罩尺寸也讓散熱面臨全新設計,如必須導入液冷、浸潤式冷卻,臺廠奇𬭎、雙鴻有望受惠。

簡言之,SoW爲臺積電爲滿足未來AI和HPC應用對運算能力、記憶體頻寬和整合度無止境需求而開發的顛覆性封裝技術,將實現「整片晶圓即超級系統」的願景。