NVIDIA推出DGX Spark桌面AI超算 以3999美元價格推動邊緣AI運算普及

鎖定邊緣人工智慧運算應用需求,NVIDIA宣佈其搭載與聯發科合作精簡版超級晶片GB10 Grace Blackwell的超小型人工智慧超級電腦DGX Spark,預計從10月15日起正式銷售,其中包含由NVIDIA直接銷售的FE版本將以3999美元價格上市,而合作伙伴包含宏碁、華碩、Dell、技嘉、HP、聯想、微星等品牌基於GB10晶片打造的客製化系統也將陸續進入市場銷售。

而宣佈DGX Spark正式進入市場銷售消息之餘,NVIDIA執行長黃仁勳也將此款桌面AI超算系統親手交給Tesla執行長Elon Musk。

在DGX Spark中採用的GB10晶片,分別包含由10組Arm Cortex-X925核心與10組Arm Cortex-A725核心構成的20核CPU,而GPU部分則採用6144組CUDA核心,並且配置256位元、128GB容量的LPDDR5x-9400統一記憶體,FE版本則額外搭載4TB儲存容量。

至於連接能力方面,則分別內建英偉達ConnectX-7 200Gb/s高速有線網卡、對應Wi-Fi 7與藍牙5.3的無線網卡,以及10Gbps一般有線網卡,外部I/O則包含4組USB4 Type-C、1組HDMI、1組10Gbps RJ45,以及2組200Gbps QSFP。

作業系統則採用DGX OS,並且預載NVIDIA人工智慧軟體堆疊,單機即可對應1 petaflop的FP4稀疏AI算力,支援2000億參數規模的模型裝置端推理能力,以及700億參數規模的模型本地微調,若透過ConnectX-7實現雙機互連的話,則可對應4050億參數規模的推理運算。

從NVIDIA將DGX系列超級電腦縮減爲桌面形式,並且以親民價格銷售作法來看,顯示NVIDIA計劃將人工智慧運算能力進一步推向邊緣,讓更多開發者、研究機構能更容易佈署人工智慧技術。

而相比過往動輒數十萬、甚至百萬美元起跳的DGX系列超級電腦,DGX Spark僅以3999美元價格銷售,顯然將能吸引更多預算有限的開發者、新創團隊使用,甚至也能讓更多教育機構用於人工智慧技術教學。

不過,以一般消費市場使用需求來看的話,DGX Spark顯然還是鎖定特定專業應用需求,但相比過往必須透過雲端服務才能使用龐大人工智慧算力情況,如今已經能借由單機形式實現更大參數規模的人工智慧模型運作,預期將能帶動更多邊緣人工智慧應用發展。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》