騰訊申請一種模型壓縮方法、裝置、設備、存儲介質及產品專利，實現模型的高質量壓縮

金融界2025年7月8日消息，國家知識產權局信息顯示，騰訊科技（北京）有限公司申請一項名爲“一種模型壓縮方法、裝置、設備、存儲介質及產品”的專利，公開號CN120278216A，申請日期爲2025年03月。

專利摘要顯示，本申請實施例公開了一種模型壓縮方法、裝置、設備、存儲介質及產品。其中方法包括：獲取待壓縮模型包含的權重矩陣，權重矩陣是從待壓縮模型包含的神經網絡中的注意力層提取的，對權重矩陣進行特徵分佈調整，使得調整後的矩陣在目標矩陣區域中的特徵稠密度高於權重矩陣在目標矩陣區域中的特徵稠密度，對調整後的矩陣進行降維處理，得到壓縮後的矩陣，基於壓縮後的矩陣，生成待壓縮模型對應的壓縮模型。可見，通過對權重矩陣進行特徵分佈調整，可以使得特徵在目標矩陣區域內的分佈更加稠密，在非目標矩陣區域內的分佈更加鬆散，進而減少模型在降維處理過程中的性能損失，實現模型的高質量壓縮。

天眼查資料顯示，騰訊科技（北京）有限公司，成立於2005年，位於北京市，是一家以從事軟件和信息技術服務業爲主的企業。企業註冊資本160萬美元。通過天眼查大數據分析，騰訊科技（北京）有限公司共對外投資了9家企業，參與招投標項目47次，專利信息1384條，此外企業還擁有行政許可155個。

本文源自：金融界

作者：情報員