合肥大唐存儲科技申請一種實現大語言模型部署的專利，減少大語言模型對 DRAM 容量的需求

金融界 2025 年 2 月 12 日消息，國家知識產權局信息顯示，合肥大唐存儲科技有限公司申請一項名爲“一種實現大語言模型部署的方法及裝置”的專利，公開號 CN 119396420 A，申請日期爲 2024 年 10 月。

專利摘要顯示，本申請公開了一種實現大語言模型部署的方法及裝置，通過將大語言模型中佔用空間大於預設條件的部分模型參數存儲在閃存的 SLC 和 TLC 區域中，並根據需要動態加載到 DRAM 中，這樣，減少了大語言模型對 DRAM 容量的需求。本申請實施例特別適用於 DRAM 容量有限的移動終端設備，實現了大語言模型的高效運行。本申請實施例中，基於大語言模型的稀疏性特徵，模型參數被合理的分配存儲到閃存的 SLC 和 TLC 區域中，充分利用了閃存在 SLC 模式下的快速讀寫性能和 TLC 模式下的大容量優勢。

天眼查資料顯示，合肥大唐存儲科技有限公司，成立於2018年，位於合肥市，是一家以從事軟件和信息技術服務業爲主的企業。企業註冊資本27115.6465萬人民幣，實繳資本27115.6465萬人民幣。通過天眼查大數據分析，合肥大唐存儲科技有限公司共對外投資了2家企業，參與招投標項目7次，知識產權方面有商標信息16條，專利信息113條，此外企業還擁有行政許可4個。

本文源自：金融界

作者：情報員