中國芯片企業卡位“離用戶最近”的AI戰場
當全球芯片巨頭在雲端算力的高端芯片上展開“軍備競賽”時,邊緣計算芯片將是中國廠商的一個重大機遇,它能讓AI(人工智能)在離用戶最近的地方得以運行。愛芯元智創始人兼董事長仇肖莘近期接受界面新聞採訪時稱,“在邊緣側和端側,中國一定會出現世界級的芯片公司,因爲我們離應用場景更近。”
邊緣計算芯片是專門設計用於在靠近數據源的網絡邊緣側進行計算、存儲和處理的硬件設備,通常集成AI加速模塊。它可以在本地節點直接處理數據,減少數據傳輸延遲,同時在邊緣端處理數據可避免敏感信息上傳至雲端,提升數據安全性。
近年來,隨着人工智能的快速發展與應用,越來越多的AI應用處理從雲端向邊緣轉移,邊緣計算憑藉其特有的技術優勢備受關注。
根據諮詢機構恆州博智的統計及預測,2024年全球邊緣AI芯片市場銷售額達到了32.46億美元,預計2031年將達到93.42億美元,年複合增長率爲16.5%。
AI規模化落地面臨成本、延遲、數據隱私等阻礙,雲邊端的結合是未來的必然趨勢。雲邊端指的是邊緣計算架構中的三個核心層級:雲端(雲計算中心)、邊緣層(靠近數據源的中間計算節點)和終端設備(數據採集與執行端)。
當前,AI技術向端側設備落地面臨三大挑戰:算力受限、能耗過高與隱私風險。在輔助駕駛場景中,數據傳輸至雲端再返回指令的延遲將直接威脅行車安全;此外許多設備會涉及圖像、語音、文本等敏感信息,數據安全問題愈發突出。而邊緣計算可以有效解決這些痛點。
在近期舉行的世界人工智能大會上,愛芯元智發佈了其全新的邊緣計算戰略。愛芯元智成立於2019年,深耕邊緣側與端側人工智能芯片研發。
據仇肖莘介紹,此次發佈的邊緣計算業務線包含了愛芯元智旗下系列邊緣智能芯片,未來公司將確保對邊緣計算場景的持續投入,去承接邊緣計算市場後續爆發的海量AI需求。
界面新聞了解到,愛芯元智在成立之初,就確立了邊、端側智能的戰略方向。隨着AI技術的快速發展,特別是大模型的應用,愛芯元智意識到,僅靠提升硬件性能不足以應對複雜的計算需求。因此,公司提出了“從雲端探索到邊端收斂”的理念,即在雲端驗證智能上限後,將大模型輕量化部署到邊緣端,使其能夠處理更加複雜任務。
愛芯元智目前已在終端計算、邊緣計算、輔助駕駛等多個前沿領域實現了商業化落地。人工智能基礎設施公司無問芯穹是愛芯元智的合作方之一,雙方以“芯片+算法+場景”爲核心展開深度協同。
無問芯穹端側業務副總經理黃璘璞在接受界面新聞採訪時透露,在合作中,愛芯元智主導硬件模組定義,無問芯穹則基於硬件模組開展核心模型微調與優化。同時,雙方正積極探索“軟硬一體”的產品形態,聯合挖掘並釋放端側場景的巨大潛力。
在應用方面,黃璘璞以實時翻譯場景爲例,雙方合作的解決方案依託無問芯穹算法與端側獨立AI芯片算力,可以支持跨國會議等場景的毫秒級語音轉寫與精準字幕翻譯,覆蓋多語種專業術語識別,同時保障數據本地化處理的隱私安全性。
無問芯穹聯合創始人戴國浩指出,邊緣與終端智能是未來人機交互的核心場景,尤其在醫療、康養等機器人應用中具有廣闊前景。他透露,目前公司團隊已發佈面向終端的3B級小模型,期待與愛芯元智在汽車、消費電子、機器人等領域深化合作,共同探索高效智能解決方案。
靈境聲學是愛芯元智的另一個算法生態合作伙伴。靈境聲學創始人安吉介紹,靈境聲學與愛芯元智共創全景聲行業大模型——靈境Umix AI,可以應用在汽車、酒店、家庭影院等領域,能夠實現將普通立體聲升級爲環繞立體聲效果的音頻體驗。