輝達:全球AI工廠會達百座

輝達(NVIDIA)加速運算事業部門主管巴克表示,推理模型的晶片使用量增加,需求已「大爆發」,主權AI的需求與全球AI工廠的投資都增加,目前全球正在打造100座AI工廠,包括臺灣的大幅投資,而面臨的挑戰包括供電限制和企業採用AI的速度。

DeepSeek、OpenAI、Anthropic及xAI等業者最新AI模型,都具備推理功能,能針對用戶搜尋詞進行多次思維運算(thought computation),更全面反思,以提供更高品質迴應。輝達主管已表示,推理消耗的運算資源比之前的AI模型多出100倍,驅動更多AI晶片需求。

巴克表示,各國都加強投資AI應用於各自獨特的產業和數據,例如臺灣正在打造一座他認爲會使用1萬組Blackwell繪圖處理器(GPU)的AI工廠,「這是爲臺灣產業打造,由臺灣擁有」,日本也在運用自有數據建造AI工廠,目前全球正在打造並組裝100座AI工廠。

他也說,輝達可能會在下週巴黎GTC開發者大會、以及在柏林舉行的國際超級運算大會上,提供更多關於AI工廠和主權AI等活動訊息。他也暗示,未來成長挑戰可能包括供電議題與企業採用AI的速度。

輝達與臺灣供應鏈密切合作,全球AI工廠和主權AI持續投資,臺灣的鴻海、廣達、緯創、緯穎、英業達等AI伺服器代工鏈出貨喊衝,GB200伺服器機櫃將持續放量,GB300機櫃也蓄勢待發。廣達指出,第2季Blackwell平臺的GB200機櫃加入出貨行列,GB300正在測試與客戶驗證階段,預計9月出貨。