階躍星辰智能申請自監督摘要生成方法等專利,降低對大規模預訓練模型的依賴
金融界2025年6月24日消息,國家知識產權局信息顯示,上海階躍星辰智能科技有限公司申請一項名爲“自監督摘要生成方法、系統、設備及介質”的專利,公開號CN120196750A,申請日期爲2025年05月。
專利摘要顯示,本申請實施例涉及自然語言處理技術領域,公開了一種自監督摘要生成方法、系統、設備及介質。使用預訓練語言模型生成文檔‑摘要對;通過自監督過濾器模塊對所述文檔‑摘要對進行篩選,得到數據集;使用專家迭代模塊對所述數據集進行多輪自監督學習,迭代教師模型;將迭代後的所述教師模型的知識蒸餾到學生模型中;通過可控摘要生成模塊,在訓練和推理階段引入控制屬性,根據所述控制屬性使用所述學生模型生成定製化摘要。通過構建一個自監督的信息理論目標,結合小型語言模型進行蒸餾和訓練,降低了對大規模預訓練模型的依賴。可以至少用以解決摘要生成質量低的技術問題。
天眼查資料顯示,上海階躍星辰智能科技有限公司,成立於2023年,位於上海市,是一家以從事軟件和信息技術服務業爲主的企業。企業註冊資本2000萬人民幣。通過天眼查大數據分析,上海階躍星辰智能科技有限公司共對外投資了7家企業,參與招投標項目5次,財產線索方面有商標信息89條,專利信息20條,此外企業還擁有行政許可1個。
本文源自:金融界
作者:情報員