在大戰中爭雄!華碩施崇棠籲:臺灣應放棄「淺碟型AI技術」
華碩董事長施崇棠對AI關注度極深。王鬱倫攝影
華碩(2357)要轉型全方位AI公司,除今年將提撥營收3至5%投資研發,董事長施崇棠談「軟體的華碩」,包括:軟體工程師人數已經超越硬體,AI人才更破千人。
他也大讚DeepSeek是「窮人的武功」,面對美中AI競賽,他感嘆臺灣應該要注重深耕型技術,放棄淺碟型技術投入才能在AI大戰中一決雌雄。
對於DeepSeek技術的發展,施崇棠表示早在一年前就已經注意到,其團隊第一篇論文MLA發佈就已經非常令人驚豔,後來的MoE(專家混合架構)、推理、蒸餾等技術,讓模型即便參數高達6,850億,但其實只要380億運算量就能跑,其他大量參數可以放在SSD,而不需要常駐記憶體VRAM,需要再抓出來就好,就能達到一秒20個符元(Tokens)的目標,這種設計對小模型也非常有利,施崇棠大讚DeepSeek是「窮人的武功」。
施崇棠指出,他會認爲DeepSeek技術是窮人的武功,是因爲推理有利於小模型問世,因爲相對於預訓練模型需要很大的資料量,「但推理就跟人一樣,降低很多資料需求負擔」,其次蒸餾技術可以讓大模型教小模型,有利於小模型遍地開花,加速AI發展。
施崇棠指出,AI是下一個工業革命,重要性不言而喻,所以人才的問題格外關鍵,面對如DeepSeek問世的突破性,他有深深的感慨,期望臺灣能記取教訓,要注意深耕型技術,鼓勵投入深且難的技術發展,而不是淺碟型技術,這樣臺灣纔能有辦法在世界級的領域大決戰時能一爭雌雄。
而AI代理也將使工作流程大幅轉變,比方說,只要一句話就可以讓AI自動幫忙定票,但實務上還有許多需要管理的面向,甚至未來作業系統也將有很大的轉變,成爲代理人型態,現在世界才真正從運算走向電腦。
華碩年報指出,今年預計投資3至5%營收於研發上,施崇棠表示,華碩爲成爲全方位AI公司,華碩從最底層的基礎建設層、系統層、應用層都有佈局,包括AIDC(AI基礎建設)、ACC(伺服器管理系統)、AI Foundry、AI Hub,並在4應用層:智慧城市、智慧醫療、智慧製造、智慧零售佈局。
由於AI正加速成熟化,施崇棠表示他對未來覺得非常樂觀,在發展AI應用時,華碩全球有2,200個據點,變成很重要的利器,因爲未來的AI服務將跟以往的服務不同,必須提供所謂SLA(Service Level Agreement服務水準協議),保證提供端到端的服務。
對輝達(NVIDIA)將進駐士林設總部,施崇棠開玩笑說,希望可以更緊密合作,但當然是不希望對方來挖角人才,一定會好好跟輝達談妥人才協議。