鴻海首款繁體中文 AI 語言模型 轉型平臺服務商、FoxBrain 劍指自駕車

鴻海首款繁體中文AI大型語言模型(LLM)FoxBrain預計5月底將對外發表,鴻海人工智慧研究所所長慄永徽指出,這是臺灣第一個具備推理能力的自主研發LLM,後續2.0的FoxBrain將具備多模態,運用於自駕車,由於鴻海將從製造服務公司進化爲平臺服務公司,FoxBrain也將是三大平臺:電動車、智慧製造、智慧城市的基礎模型。

鴻海人工智慧研究所所長慄永徽14日出席思科舉辦的「臺灣 AI 策略發展高峰會」,分享鴻海集團的AI佈局戰略。鴻海研究院(HHRI)3月剛宣佈推出首款繁體中文AI大型語言模型(LLM)FoxBrain,慄永徽指出,鴻海已是硬體制造能力第一的業者,在此基礎上,鴻海希望在生成式AI時代成爲AI平臺打造者,並加速發展生態系,目前鎖定三大平臺:電動車、智慧製造、智慧城市平臺。

慄永徽指出,爲打造三大生成式AI平臺,並在其上開發衆多AI Agent(AI代理),鴻海就必須發展自有基礎模型,透過大量數據訓練,再其上可以發展翻譯、摘要、REG、視覺等各種模組,並組合成各種應用能力,爲此鴻海花20個月開發出臺灣第一套繁體中文且具推理能力的LLMFox Brain,預計5月底於Hugging Face社羣發表並開源。

慄永徽指出,鴻海由於資料有限,故用AI訓練AI方式將臺灣知識跟繁體中文的推理能力實現在FoxBrain中,可以做數據分析、程式代碼生成、決策輔助及文書協作,目前開發出70B的模型,下一步預計蒸餾出8B小模型,而下一代LLM將支援多模態100B,增強學習能力,同時,FoxBrain將放在自駕車中,透過理解駕駛行爲,轉化爲AI的可解釋性,應用於輔助駕駛應用場景,這是各國推動AI治理要求AI供應商必須提供AI可解釋性(透明揭露推理邏輯過程)的必要條件。

FoxBrain模型將整合到NVIDIA的NIM微服務框架中,讓NVIDIA平臺上的開發者可以直接呼叫鴻海的大語言模型當作其AI服務的基礎模型。

慄永徽解釋,不直接拿國際大廠的LLM來用,有三大考量,第一是語言文化不對等,國際LLM對臺灣用語理解有限,難以處理在地語彙、文化、法規,第二是資訊主權及資安風險考量,使用國外LLM就會有內部機密外泄風險,第三是可控性跟在地調適能力的掌握,LLM掌握在自己手裡才能針對自己需求客製化或做下一個版本的進化。

慄永徽表示,自主開發LLM的優點是具資料主權性,且培育尖端AI人才,並有機會做好資料治理,如何將臺灣充沛的智慧製造know How做資料梳理統整,並保護企業核心技術,建立內部獨特資料庫,培育AI人才及環境,是開發LLM過程要努力的四大目標。

因應AI時代需求,NVIDIA也主導開發網路晶片Spectrum及端對端乙太網路架構Specttrum X,以AI爲槓桿跨入網通產業,對此思科13日表示會跟NVIDIA在三面向合作,1是思科自家網路設備與晶片將採用 NVIDIA爲企業與雲端客戶打造的Spectrum X參考架構,並通過NVIDIA驗證,2.是共同打造專爲 AI 後臺環境設計的網路交換器,並採用 NVIDIA 的 Spectrum 晶片,3.強化 Cisco 與 NVIDIA 的軟硬體整合深度(包含NVIDIA的NIC技術),優化企業高效能AI工作負載。

思科高層表示,AI時代思科的自有晶片One會與NVIDIA的網通晶片Spetrum合作。王鬱倫攝影

鴻海Foxbrain AI模型除是臺灣第一個具推理能力LLM,還將導入自駕車場景,提供輔助駕駛的可解釋性,有助於AI落地。王鬱倫攝影

鴻海科技集團董事長劉揚偉宣示要轉型平臺服務公司,廣邀夥伴打羣架發展AI生態圈。記者曾學仁/攝影