DeepSeek於知乎開設官方賬號 首次公佈模型推理系統優化細節
3月1日消息,DeepSeek於知乎開設官方賬號,獨家發佈《DeepSeek-V3/R1推理系統概覽》技術文章,首次公佈模型推理系統優化細節,並披露成本利潤率關鍵信息,標誌着全球關注的“DeepSeek開源周”正式收官。
據介紹,知乎一直是AI從業者和創業者密度最高的社區,此次DeepSeek選擇知乎作爲開源發佈的最後一站,進一步引領了全網最重要的AI趨勢發佈。
作爲“DeepSeek開源周”的收官之作,DeepSeeK知乎官方賬號正式亮相,併發布文章詳述V3/R1推理系統。文章寫道:“DeepSeek-V3 / R1推理系統的優化目標是:更大的吞吐,更低的延遲。”爲實現這兩個目標,DeepSeek的方案是使用大規模跨節點專家並行(EP),但該方案也增加了系統複雜性。文章的主要內容就是關於如何使用EP增長批量大小(batch size)、隱藏傳輸耗時以及進行負載均衡。
值得一提的是,文章還率先披露了DeepSeek的成本和利潤率等關鍵信息。“假定GPU租賃成本爲2美金/小時,總成本爲$87,072/天。……如果所有 tokens全部按照DeepSeek R1的定價計算,理論上一天的總收入爲$562,027,成本利潤率545%。”
據瞭解,“DeepSeek開源周”自2月24日至2月28日,陸續開源最新技術進展。其中包括,FlashMLA、DeepEP、DeepGEMM和3FS四個開源項目,以及DualPipe、EPLB等代碼庫。每一項開源發佈,都在知乎引發了業內人士的熱烈討論。(定西)