輝達不再獨自升級!開放 NVLink IP 使聯發科、世芯受惠
輝達執行長黃仁勳在主題演講中強調Blackwell是一個科技奇蹟,更是臺灣科技生態系統卓越成就的證明,並強調AI Factory重要性。林俊良/攝影
輝達(NVIDIA)執行長黃仁勳舉行COMPUTEX 2025演講,最大震撼是輝達將開放其獨門超高速傳輸技術「NVLink」以打造NVLink Fusion生態系,供應商可以打造「半客製化的 AI 基礎設施」。隨高通及Arm等愈來愈多業者宣佈進軍伺服器晶片之際,輝達此舉無異高歌歡迎這些第三方夥伴合作,擴大NVLink生態系。
NVLink已經發表到第5代,NVIDIA Blackwell Tensor 核心 GPU 總頻寬可達每秒 1.8 TB(TB/秒),是第5代 PCIe 的14倍以上。GB200 NVL72 等伺服器平臺利用NVLink Switch交換器串連多個 NVLink,黃仁勳也預告GB300內會有9個交換器,透過NVLink骨幹串連,每秒能處理 7.2TB 的資料流,整櫃中的每臺伺服器能串連成一臺巨大超級電腦一起運作,伺服器跟伺服器及機櫃與機櫃之間能垂直跟水平連通,擴張成AI Factory。
NVLink是輝達自行開發的高頻寬、低延遲的處理器串連技術,用來加速 GPU 與 GPU 之間、或 GPU 與 CPU 之間的資料傳輸,輝達在2016 年左右首次發表NVLink是在 Pascal平臺時,主要是因GPU效能更高,期望自訂GPU與GPU之間的傳輸規格,並取代CPU跟GPU過去以PCI-Express傳輸的做法,目前該技術已經邁入第五代。
產業認爲,隨CSP及更多伺服器業者計劃自研伺服器晶片,如富士通宣佈新一代Arm 架構資料中心處理器Monaka,輝達釋放NVLink技術,是藉此鞏固GPU王國地位,而間接受惠者將是ASIC開發商,包括世芯-KY(3661)、聯發科(2454)、AsteraLabs、Marvell,而高通及Arm也宣佈自研伺服器晶片計劃。
產業分析師認爲,NVIDIA會限制第三方CPU開發商,將NVLink技術納入後,仍將與輝達GPU串連,而不會開放第三方自研CPU及GPU,彼此互聯,變成只是純粹買輝達的傳輸技術IP,輝達目的是希望擴大輝達自身GPU生態系。
儘管輝達尚未公佈釋出的NVLink技術,是多少通道?或是以怎樣的技術讓其與其他加速器串連?但外界預期將使AI伺服器產業除NVIDIA自己研發的Grace CPU,還有更多CPU甚至GPU有機會包進NVLink晶片或IP,而與輝達的GPU串連。
輝達公佈NVLink Fusion計劃,也讓輝達不再獨自升級,使客戶有機會打造「半客製化的 AI 基礎設施」,背後關鍵是看到更多AI基礎設施目的不同,有的要更多CPU,有的要GPU,也有更多客戶想自己開發ASIC,透過NVLink技術,輝達可以幫客戶把ASIC伺服器垂直跟水平串連。
黃仁勳此次來臺主持Computex開幕演說,強調輝達是AI基礎設施供應商,而不只是晶片業者。由於GB300第3季度將登場,黃仁勳此行並未發表特殊硬體規格,但卻在AI Factory及打造生態系上着力更深,他指出,AI就像當年的網路或電力系統一樣,帶來世界重大改變,傳統資料中心是一個兆元產業,提供企業內部需求,但未來AI Factory是一個數兆美元的市場。
他指出,AI Factory將改變世界,「AI 資料中心」被錯誤地命名,其實應該是「AI 工廠」,這些工廠雖消耗能源,但產出極具價值的東西叫做「token(詞元)」,並藉此獲利,這使輝達從原本賺3億美元的晶片市場,跨入資料中心兆元級產業,現在更進入數兆美元的AI工廠/AI基礎設施產業。
過去資料中心在討論算力,但未來AI Factory將討論每秒產出多少Tokens,就跟一般工廠討論產出多少商品一樣,成爲新商業模式。
他指出,而這個AI Factory產業並不是因爲半導體技術突破所帶動,其實是因爲更瞭解應用面,透過「創造更符合應用的運算架構」,讓AI以光速發展。過去五年AI從生成式走向「一次迴應式 AI」(One-shot AI),未來AI將可以推理跟感知,發展成代理AI,代理AI其實就是數位型機器人,另一方面,也會產出物理型機器人,理解物理世界,催生人形機器人問世。
輝達(NVIDIA)執行長黃仁勳在Computex主題演講中預告將推出NVLink Fusion釋出IP。記者林俊良/攝影