黃仁勳親送馬斯克AI超級小電腦 成地端運算高性價比選擇

輝達創辦人暨執行長黃仁勳親赴美國德州太空港星際基地(Starbase),將DGX Spark交給馬斯克。(圖/輝達提供)

即將上市的輝達DGX Spark個人AI超級電腦,搭載聯發科技與輝達合作設計的GB10 Grace Blackwell超級晶片,輝達創辦人暨執行長黃仁勳也在14日親自將首批DGX Spark交給特斯拉執行長、SpaceX首席工程師馬斯克(Elon Musk),主因爲馬斯克在2016年也是NVIDIA DGX-1首批交貨的成員之一。

輝達指出,作爲新一代的電腦類型,DGX Spark以精巧的桌上型機身設計,讓開發者可在地端對高達2,000億參數的AI模型進行推論,並微調高達700億參數的模型。此外,DGX Spark也可讓開發者在地端建立AI代理並執行進階軟體堆疊。

黃仁勳表示,輝達在2016年打造DGX-1,讓AI研究者擁有自己的超級電腦;當時我在一家名爲OpenAI的小型新創把第一套系統親手交給Elon,而後來的 ChatGPT由此誕生,點燃了AI革命的序幕;DGX-1開啓AI超級電腦的時代,也揭示推動現代AI的擴展法則,DGX Spark讓我們回到最初的使命,把AI電腦交到每位開發者手中,掀起新一波的技術突破。

目前DGX Spark的早期用戶,包括 Anaconda、Cadence、ComfyUI、Docker、Google、Hugging Face、JetBrains、LM Studio、Meta、Microsoft、Ollama、Roboflow 等,均已着手在DGX Spark上測試、驗證並最佳化其工具、軟體與模型。

負責晶片設計的聯發科指出,DGX Spark搭載的GB10 Grace Blackwell超級晶片中Grace CPU採用20核心Arm架構,充分展現聯發科技在高效能、低功耗設計、記憶體子系統及高速介面上的技術實力,結合最新一代Blackwell GPU與128GB統一架構記憶體,GB10提供高達1 PFLOP AI算力,以大幅加速模型調校與即時推論。

聯發科技數據中心與運算事業羣公司副總經理Vince Hu表示,DGX Spark將引領AI原型設計邁入新時代,進一步實現我們「讓科技從邊緣到雲端更易取得」的使命,同時有效解決在效能與功耗上的挑戰。GB10超級晶片結合聯發科技在資料中心領域的高效運算設計,以及針對消費性裝置打造的節能技術,專爲 AI 工作負載量身設計。

GB10的合作奠基於聯發科技與 NVIDIA 在多個領域的深厚合作,將先進的 AI 技術帶到超大規模資料中心、物聯網應用、軟體定義汽車。

市場認爲,DGX Spark價格約落在3千美元,相比鎖定企業的工作站顯卡RTX Pro 6000價格略低,將爲學術單位、AI開發者以及中小企業提供更經濟的選擇,透過ConnectX-7網卡設計,也可以串聯2臺設備實現疊加的運算效能。