京東雲曹鵬:推動算力普惠,讓中小企業用得起大模型
隨着年初國產大模型DeepSeek的爆火,大模型技術正加速滲透千行百業。然而,算力資源的結構性矛盾也日益凸顯。企業落地AI應用過程中, GPU等高性能算力成本高昂,且系統互不兼容,造成顯卡資源浪費,成爲中小企業應用大模型的重要困境。
在近期京東雲深圳城市大會,京東雲推出八大智算產品,其中vGPU AI算力平臺,能夠實現異構算力的智能調度:一邊自動分配多元算力,實時響應業務需求,把GPU利率用提上來;另一邊創建全生命週期AI開發環境,開箱即用,大幅壓縮大模型訓練週期。目前,這個平臺支持企業智能駕駛、人形機器人等20多個場景,精細化管理千卡AI算力集羣,預計1年內,省下的算力相當一兩座數據中心的算力。
京東雲DeepSeek大模型一體機的推出,也是對這一提案的有力實踐。該一體機通過自研的算力池化能力、智能推理加速引擎,充分融合軟硬件,實現了性能的全面提升,推理速度提升50%,通過集羣算力池化調度提升集羣利用率70%,全面適配十餘家國產化算力資源。企業可以根據自己的需求靈活選擇不同版本,開箱即用。
目前,京東雲已經在河南鶴壁、江蘇宿遷、山東濱州、廣西北海、山西大同等多地政府,基於現有基礎設施本地化部署DeepSeek,既滿足本地政務業務需求,又讓當地企業不用投入資源,即可通過政務雲調用DeepSeek。
爲持續推動算力從“稀缺資源”變爲“普惠服務”,曹鵬進一步提出“鏈主企業+雲平臺”的共享模式:鏈主企業和雲平臺開放智算配額,向中小企業提供低成本、高質量的智算服務,將緊跟時代的先進技術通過產品化、平臺化,普惠化地對外開放,降低應用和部署門檻,打造開箱即用的產品服務,讓更多企業和個人無差別地享受技術創新的紅利,引導技術創新走出實驗室和大公司的圍牆,在產業場景發揮價值。
京東雲的探索與實踐,不僅爲中小企業讓中小企業用得起大模型,更爲算力普惠的未來開闢了新的道路!