火山引擎申請基於模型平臺的調度方法等專利,實現模型部署調度和流量調度的協同互補
金融界2025年6月4日消息,國家知識產權局信息顯示,北京火山引擎科技有限公司申請一項名爲“基於模型平臺的調度方法、裝置、介質、設備及程序產品”的專利,公開號CN120085971A,申請日期爲2024年09月。
專利摘要顯示,本公開涉及一種基於模型平臺的調度方法、裝置、介質、設備及程序產品,涉及計算機技術領域,該方法通過從計算集羣中確定參與重調度的多個目標計算節點,根據多個目標計算節點的節點信息、多個目標計算節點承載的模型對應的模型信息和多個目標計算節點承載的推理流量信息,結合優化模型,確定滿足模型編排維度和負載均衡維度協同調度的協同調度目標對應的目標調度策略,然後目標調度策略進行模型編排調度和流量調度,可以在模型重調度時,在模型編排維度和負載均衡維度上對模型進行協同調度,從而實現模型部署調度和流量調度的協同互補,同步提高模型平臺的資源利用率和降低模型推理系統的推理時延。
天眼查資料顯示,北京火山引擎科技有限公司,成立於2020年,位於北京市,是一家以從事科技推廣和應用服務業爲主的企業。企業註冊資本100000萬人民幣。通過天眼查大數據分析,北京火山引擎科技有限公司共對外投資了5家企業,參與招投標項目399次,專利信息1090條,此外企業還擁有行政許可11個。
本文源自:金融界
作者:情報員