騰訊混元推出多款小尺寸開源模型,手機也能跑大模型了

本文來源:時代財經

8月4日,時代財經獲悉,騰訊混元宣佈開源四款小尺寸模型,參數分別爲 0.5B、1.8B、4B、7B,新開源的模型屬於融合推理模型,具備推理速度快、性價比高的特點。模型可以在消費級顯卡上運行,適用於筆記本電腦、手機、智能座艙、智能家居等低功耗場景,支持垂直領域低成本微調。

據悉,目前這些模型均在 Github 和 HuggingFace 等開源社區上線,Arm、高通、Intel、聯發科技等多個消費級終端芯片平臺也都宣佈支持部署。(時代財經 馮戀閣)