告別“服務器繁忙”！清程極智基於十餘家國產芯片推出DeepSeek私有化部署

智東西作者 雲鵬編輯 漠影

日活超3000萬人的DeepSeek已成爲全球AI產業當紅炸子雞，也被視爲中國AI的名片，普通人使用AI工具更容易的同時，企業用戶的需求也在加速涌現。

企業用戶對DeepSeek私有化部署的需求極爲迫切。一方面，數據安全成爲懸在企業頭頂的“達摩克利斯之劍”。在互聯網上，企業數據如同暴露在“玻璃屋”中，可能被竊取或篡改。

另一方面，企業對DeepSeek的個性化定製需求和長期成本考量日益凸顯。例如，醫療、電商等行業每天產生海量數據，按現有市場上主流的API調用使用量計費模式顯然不划算。

此外，國產AI芯片企業也急需更快更好地適配DeepSeek、充分釋放算力，藉着DeepSeek熱潮，真正與海外芯片巨頭掰掰手腕。

面對這些需求，清華系AI Infra領域明星創企——清程極智，給出了自己的答案：DeepSeek私有化部署方案。

近日，清程極智基於十餘家國產芯片，包括壁仞科技、寒武紀、海光信息、摩爾線程、沐曦、清微智能、昇騰、燧原科技、思朗科技、天數智芯、太初元碁等（按字母排序），推出了DeepSeek私有化部署方案。

清程極智認爲：對於企業用戶而言，私有化部署爲企業提供了一個“數據保險箱”，從物理層面隔絕外部威脅，確保數據主權牢牢掌握在企業手中，同時私有化部署不僅能滿足企業的個性化需求，還能實現長期成本優化。

能夠基於國產芯片半壁江山推出方案，也已證明行業達成了共識：企業利用DeepSeek私有化部署不再是可選項，而是贏得市場競爭、實現長遠發展的必由之路。

新品發佈之際，智東西獨家對話了清程極智CEO湯雄超，對其算力系統軟件背後的硬核黑科技、撬動十餘家國產芯片的原因，以及清程極智對AI Infra領域的深入思考都進行了探討。

一、爲芯片和大模型架橋，私有化部署切中大模型企業應用關鍵痛點

從2022年初露鋒芒到2023年爆發式涌現，再到2024年商業化落地，邁入2025年，AI大模型的發展更加聚焦成本和效率，這也是行業對大模型落地應用關注的焦點。

在這一大背景下，不論是大模型廠商、算力芯片廠商還是算力平臺，都離不開優秀的算力系統軟件支持——算力系統軟件的技術創新和突破，可以顯著降低大模型的部署成本、提升大模型運行效率，幫企業降本增效。

用湯雄超的話來說，清程極智要做的是連接芯片跟大模型應用的“橋樑”，打通應用需求跟算力硬件，把底層硬件的算力更充分地發揮出來，讓上層應用可以有更好的落地體驗。

在這樣的大背景下，清程極智自研了大模型推理引擎，並推出了MaaS服務以及推理一體機。

近日清程極智的MaaS平臺剛剛完成了滿血版DeepSeek-R1大模型的上線適配，其自研清程赤兔引擎通過一系列性能優化可以讓DeepSeek-R1在速度上實現提升。

▲清程極智MaaS平臺上線滿血版DeepSeek-R1

而此次清程極智要推出的DeepSeek私有化部署方案，則爲企業和開發者們提供了一種更靈活、更高效地接入DeepSeek的模式。

私有化部署不同於公有云服務，其方案中既包含完全本地化的部署方式，也包含通過雲平臺分配專屬計算資源，進而實現企業的私有化部署方式。

爲何大模型私有化部署如此重要？這與當下行業需求的高速增長、行業發展到新時期所面臨的需求痛點以及大模型私有化部署解決方案帶來的諸多優勢密切相關。

從風險規避和數據合規性的方面來看，如今國內外都已陸續出臺數據安全相關法律法規，私有化部署可以讓企業完全掌控數據的生命週期，避免跨境傳輸風險。

比如醫療、金融等行業對數據的本地化有強制要求，私有化部署是唯一的合規途徑。

與此同時，私有化部署可以實現更深度的模型定製化，企業可以通過私有數據持續訓練模型，讓通用大模型轉化爲垂直領域的“專家”，進一步提升大模型服務企業、提高企業生產效率的表現。

從安全的角度來看，私有化部署可以實現硬件級加密、數據脫敏，防護標準更高。

從行業發展角度來看，如今大模型能力已經廣泛進入商業化落地應用階段，企業需要將AI能力真正地嵌入到核心業務流程之中，這是很關鍵的，而私有化部署可以幫助企業更好的實現這一點。

最後從非常實際的提升性能角度出發，私有化部署也有着明顯優勢。湯雄超談道，其實大部分企業都是希望在既有業務中融入AI的能力，並非“從0開始”，因此企業更多希望能夠回到自己的業務系統，構建在自己的私有化環境中。

從性能上來說，如果業務一部分在雲端一部分在本地，數據傳輸的開銷很大，並且效率性能也會受到影響，採用私有化部署，可以讓企業所有業務模塊都在熟悉、可控的環境中，數據交互更高效。

當然，私有化部署能夠帶來的高穩定性對企業業務來說也至關重要，相比公有服務器容易受到巨大流量的衝擊，私有算力顯然更有保障，穩定性更好。

如今各大智能手機巨頭紛紛官宣自家AI智能體支持DeepSeek，用戶通過各傢俬有云部署的DeepSeek體驗AI，就會更少遇到“服務器繁忙，請稍後再試”的尷尬。實際上這就是私有化部署帶來優勢的一種直觀體現。

二、大模型算力系統軟件創新，讓國產AI芯片走的更快更遠

可以看到，在DeepSeek加速深度融入行業之下，大模型私有化部署已經成爲行業發展的重要趨勢之一，而清程極智基於十餘家國產AI芯片廠商推出的DeepSeek私有化部署解決方案，正是順應這一趨勢而來。

實際上，大模型高效地私有化部署不僅可以給應用大模型的企業客戶帶來上述諸多好處，對於國內AI芯片企業也有着重要意義和價值。

目前國產AI芯片領域雖然不乏許多表現亮眼的企業，但總體來看行業仍然是學習、追趕的態勢，如何讓更多企業用上國產AI芯片，是非常關鍵的一步。

要不要用？最核心的一個標準仍然是性能，性能最直觀的反映就是用戶最終的使用體驗，模型應用的效果是否是真正“可用”的。

而清程極智恰恰做的就是連接國產AI芯片和大模型，讓芯片可以更高效地運行大模型應用，進而提升性能表現。

從商業角度來看，國內的AI芯片勢必要面臨跟英偉達這樣的成熟海外巨頭的競爭，因此提升芯片性能就顯得十分關鍵。通過系統軟件的優化，在同樣的硬件條件下實現更高的性能表現，就意味着成本的下降、性價比的提升，進而產品綜合競爭力就變強了。

湯雄超提到，從長遠視角來看，只要國產芯片平臺可以達到與海外產品一樣的體驗，大家必然會傾向於國產，進而幫助芯片企業提升國內市場的份額。如果更進一步在性價比上也可以追平海外產品，那國產芯片企業將會擁有更多走向全球市場的機會，這裡面的想象空間是巨大的。

目前清程極智提供的大模型端到端的訓練和推理，及配套的性能優化服務，已經幫助數款大模型實現了在多款國產芯片上的快速預訓練和高性能推理優化，降低了大模型的部署成本，提升了大模型運行效率。

三、大模型效率提升近100倍，硬核自研技術創新仍是最強王牌

在大模型應用與芯片之間架起橋樑，實現大模型效率的提升，進而提升國產AI芯片的性價比，這樣的邏輯聽起來並不複雜，但實際上，要真正實現算力系統軟件的技術創新，存在諸多挑戰，這也是清程極智的核心技術優勢所在。

在湯雄超看來，他們的核心優勢主要在兩方面：集羣算力的高效利用和國產芯片的深度適配優化。

他提到，過去十幾年，技術團隊在清華實驗室時期就做了非常多的工作，在集羣算力高效利用和國產芯片適配優化方面積累了大量經驗，而這兩個問題也是做好AI算力系統軟件的核心難點所在。

根據官方信息，清程極智由清華大學翟季冬教授發起並任首席科學家，團隊孵化於清華大學計算機系，在算力系統優化領域有着十餘年經驗積累，目前已經與國內多個智算超算中心、知名芯片廠商及大模型廠商達成商業合作。

在集羣算力使用方面，過去的問題主要集中在訓練方面，而DeepSeek的火爆也帶來了集羣算力在推理方面的新挑戰，如何高效地支持671B參數的大模型運行，有諸多問題需要解決。

湯雄超提到，真正掌握集羣算力使用方式並且可以運用的很好的團隊並不多。

目前清程極智掌握了並行系統、計算框架、通信庫、算子庫、AI編譯器、編程語言、調度系統、存儲系統、內存管理、容錯系統等10個關鍵基礎軟件的核心技術，並在其中過半數領域擁有自研產品，解決方案覆蓋大模型落地全棧技術要求。

除了集羣算力高效利用，清程極智的另一個優勢是對於國產芯片的深度適配優化。

實際上，這是一個大量考驗Know-how的領域。目前行業長期習慣了英偉達芯片，其芯片的生態軟件系統都相對完善，使用更簡單，相比之下，國產芯片在軟件生態方面不夠完善，實現效率不夠高效，有些模塊是缺失的，這都是算力軟件系統廠商需要解決的問題。

爲了解決這些難題，清程極智選擇了一條更具挑戰的技術路線：自研大模型推理系統。

由於英偉達生態長期佔據主導地位，目前行業中的很多開源框架、軟件從設計思路上就更適合英偉達芯片，直接移植很容易遇到“水土不服”的問題，國產AI芯片在設計、性能方面都與英偉達芯片有所區別，一些原本起到促進作用的優化模塊對國產AI芯片來說可能會造成反向負面效果。

因此針對具體國產芯片進行鍼對性適配和優化就顯得尤爲重要。在這一領域，清程極智的團隊有豐富經驗，其自研推理系統從軟件設計層面就是爲多樣性芯片構成去做的，因此在國產AI芯片適配大模型方面有更高的性能提升上限。

目前，清程極智已經做了面向大模型算力系統的全棧建設及優化。從實際綜合數據來看，其解決方案可以讓大模型應用成本降低2個數量級，讓大模型運行效率最高提升近100倍。

縱觀其模型系統級解決方案，具備多層次的算力優化優勢：自研推理系統可以更好地應對低延遲、高併發的推理需求；自研編譯器則可以使新型算子更高效地適配，讓複雜模型在異構算力上跑的起來、跑的更好；與此同時，其算力系統軟件兼容性強，可以同時支持多種國內外算力平臺。

結語：堅持核心技術投入，抓住AI滲透千行百業新機遇

今天的中國智算產業，正在經歷前所未有的新變革，迎來新的機遇和挑戰。正如湯雄超所說，AI行業發展很快，唯有堅持核心技術創新的投入纔是硬道理。未來清程極智會繼續在集羣計算、國產算力適配優化方面堅持技術創新。

如果說早期的AI只是大公司的“嚐鮮”產品，那麼如今越來越多的中小型企業都開始使用AI，AI已經逐漸變成企業的必需品。另一方面，國產芯片發展勢不可擋，中國大模型、中國AI技術的發展，必然需要有可靠可控的堅實算力底座。

解決這些需求和挑戰，正是DeepSeek這類大模型私有化部署的意義和價值所在，也是清程極智的方向所在：基於國產芯片半壁江山之力，用系統軟件創新在大模型和芯片之間架起橋樑，讓企業客戶享受到AI紅利，讓國產芯片在新一輪AI技術爆發中擁有更高增長潛力和更廣闊的想象空間。