輝達拚 AI 工廠經濟效益 提供15倍投資報酬率

輝達執行長黃仁勳。照片／本報資料照

晶片大廠輝達於10日宣佈，該公司Blackwell平臺在全新InferenceMAX基準測試中樹立新標竿，爲實現AI工廠展現最高效能與最佳整體效率。該公司GB200 NVL72帶來無可比擬的AI工廠經濟效益，投資500萬美元可創造7,500萬美元的詞元（token）收益，帶來15倍投資報酬率。

SemiAnalysis InferenceMAX v1基準測試，是首個在多樣化模型與真實場景中衡量總運算成本的獨立基準測試。

輝達指出，隨着AI從一次性回覆轉變成多步驟推理與工具使用，每次查詢生成的詞元數大量增加，顯著推升運算需求。推論是AI每天創造價值的關鍵，結果證明該公司的全端策略提供客戶在大規模部署AI時所需的效能與效率。

輝達也表示，其透過硬體與軟體協同設計，來持續提升效能。該公司保持年度硬體更新節奏與持續軟體最佳化，自發表以來僅透過軟體便使得Blackwell平臺效能提升兩倍以上。

輝達執行長黃仁勳先前揭露輝達未來四年AI晶片發展藍圖，包括今年的Blackwell Ultra晶片，2026年推出Vera Rubin平臺，2027年推出Rubin Ultra平臺，2028年則由Feynman平臺接棒。

輝達並提到，對功率受限的AI工廠而言，Blackwell平臺每兆瓦輸送量，比上一代提升10倍，能轉化爲更高的詞元收益。而每詞元成本是衡量AI模型效率的關鍵，直接影響營運支出。Blackwell架構讓每百萬詞元成本較上一代降低15倍，帶來可觀節省並推動更廣泛的AI應用。

黃仁勳日前提及，目前市場最大成長驅動力來自代理式AI演進，他看好2030年前全球AI基建商機將達高3兆至4兆美元。