發表模型推理方法 樑文鋒與DeepSeek團隊論文登Nature封面

由大陸AI新創企業DeepSeek團隊完成、樑文鋒擔任通訊作者的DeepSeek-R1推理模型研究論文,登上了國際期刊「自然」(Nature)的封面。(圖/取自香港文匯網)

由大陸AI新創企業DeepSeek團隊完成、樑文鋒擔任通訊作者的DeepSeek-R1推理模型研究論文,登上了國際期刊「自然」(Nature)的封面。陸媒財聯社報導,與今年1月發佈的DeepSeek-R1的初版論文相比,本次論文披露了更多模型訓練的細節,並正面迴應了模型發佈之初的蒸餾質疑。

同時,DeepSeek-R1是全球首個經過同行評審的主流大語言模型。Nature評價,目前幾乎所有主流的大模型都還沒有經過獨立同行評審,該空白「終於被DeepSeek打破」。

大陸科技日報指,該研究表明,大語言模型(LLM)的推理能力,可透過純強化學習來提升,從而減少增強性能所需的人類輸入工作量。同時,訓練出的模型在數學、程式設計競賽和STEM領域研究生水準問題等任務上,比傳統訓練的LLM表現更好。

樑文鋒團隊報告稱,DeepSeek-R1模型使用了強化學習,而非人類示例來開發推理步驟,減少了訓練成本和複雜性。同時,DeepSeek-R1在被展示優質的問題解決案例後,會獲得範本來產生推理過程,即這一模型透過解決問題獲得獎勵,從而強化學習效果。團隊總結,未來研究可以聚焦最佳化獎勵過程,以確保推理和任務結果更可靠。

在評估AI表現的數學基準測試中,DeepSeek-R1-Zero和DeepSeek-R1得分,分別爲77.9%和79.8%,在程式設計競賽及研究生水準的生物學、物理和化學問題上同樣表現優異。