中國移動申請卷積神經網絡權重壓縮方法及裝置專利,得到壓縮後的卷積神經網絡
金融界2025年6月2日消息,國家知識產權局信息顯示,中國移動通信集團設計院有限公司;中國移動通信集團有限公司申請一項名爲“卷積神經網絡權重壓縮方法及裝置”的專利,公開號CN120068976A,申請日期爲2024年07月。
專利摘要顯示,本發明提供一種卷積神經網絡權重壓縮方法及裝置,涉及數據處理技術領域,包括:將原始卷積神經網絡的卷積層的權重由原始四維張量轉換爲二維權重矩陣;將所述二維權重矩陣通過改進的正交變換轉換爲分塊反三角形式,其中,所述改進的正交變換包括以下至少一項:Givens變換及Householder變換;基於分塊反三角算法所需的浮點操作數量,計算得到各個轉換過程的運算量,針對運算量超過預設閾值的對稱不定矩陣進行一階修正,得到修正後的分塊反三角形式;通過所述修正後的分塊反三角形式的下三角分塊矩陣重塑回四維張量,得到新的四維張量,根據新的四維張量替換原始的四維張量,以得到壓縮後的卷積神經網絡。
本文源自:金融界
作者:情報員