輝達宣佈DeepSeek-R1可在NVIDIA NIM使用 贊:具備最先進推理能力

AI晶片霸主輝達。(示意圖/達志影像/shutterstock)

中國大陸新創公司深度求索(DeepSeek)以低成本硬體設備,開發出效能和美國AI業界媲美的人工智慧模型DeepSeek-R1,成爲近期市場熱議焦點。輝達(NVIDIA)今宣佈,NVIDIA NIM已經可以使用DeepSeek-R1。

輝達官網今發佈文章指出,DeepSeek-R1是具備最先進推理能力的開放模型,比起直接提供迴應,像DeepSeek-R1這樣的推理模型,會對查詢進行多次推理處理,使用連鎖思維、共識和搜尋方法來生成最佳答案。

該文章寫道,爲了幫助開發者安全地試驗這些功能,並構建自己的專門代理,DeepSeek-R1模型現以作爲 NVIDIA NIM微服務預覽版上使用。

文章還表示,開發者可以測試和試驗應用程式介面(API),該介面預計將很快作爲可下載的NIM微服務提供,這是 NVIDIA AI Enterprise 軟體平臺的一部分。

輝達說明,DeepSeek-R1 NIM微服務透過支援產業標準API簡化部署,企業可以在其首選的加速運算基礎架構上運行NIM微服務,從而最大限度地提高安全性和資料隱私。透過將NVIDIA AI Foundry與NVIDIA NeMo軟體結合使用,企業還可以爲專門的AI代理程式創建客製化的DeepSeek-R1 NIM微服務。

DeepSeek先前橫空出世重創美國科技股,一度影響輝達股價重挫17%,引發討論。輝達先前也發聲,指DeepSeek的進步,代表了輝達晶片對於大陸市場的可用性,而未來,DeepSeek會需要更多輝達晶片滿足服務的需求。