陳其邁專訪》攜手輝達 打造主權AI智慧城市

高雄市長陳其邁表示,高市府與輝達合作高雄主權AI燈塔計劃,一旦正式進入(Saas)軟體即服務的智慧城市整合應用,高雄將領先全國,甚至成爲世界各城市的前端領導者。圖/本報資料照片

有了輝達(NVIDIA)先進算力中心(Iaas)的基礎架構之後,高市府與輝達才得以合作高雄主權AI的燈塔計劃,目前正在進行的是平臺建構(PaaS)的階段,透過大型語言模型(LLM),或者是視覺語言模型(VLM),導入繁體中文的本土化訓練,一旦完成,將正式進入(Saas)軟體即服務的智慧城市整合應用,這也是高雄領先全國,甚至是世界各城市的前端領導者。

高雄燈塔計劃 已有初步成果

高雄市長陳其邁透露,輝達主動邀請高雄市政府,參加今年3月17日在美國加州聖荷西舉辦的GTC 2025大會,就是「希望我們直接跟他們談」有關高雄燈塔計劃的合作案,讓輝達可以瞭解在終端客戶或是在應用端,在使用上怎麼樣?好不好用?有什麼困難?以及有什麼技術,他們需要突破的?

高市府與輝達合作的高雄主權AI燈塔計劃,迄今已有10個月了,每天都在進行資料喂入的訓練,並且「已有一些初步成果」,在完成算力(Iaas, Infrastructure as a Service)的基礎架構、以及平臺建構(PaaS, Platform as a Service)之後,正要進入(Saas, Software as a Service)軟體即服務的最後一個階段。

陳其邁強調,AI的訓練大都屬於大型語言模型(LLM),高市府的主權AI燈塔計劃,則是採用輝達的視覺語言模型(VLM),因爲對於高雄要推動的智慧城市來說,影像資料很重要,譬如說監視器,現在警察要抓壞人,有監視器協助,破案更快速,而交通意外的緊急救護、水利的汛期水位監測、土石流監測,這些都需要影像資料。

但是在智慧城市整合應用的部分,輝達的VLM Model訓練,要先把它轉換成本土化,用本土資料去訓練,變成臺灣或是高雄,這樣的訓練,「其實全世界在用的還不多」,即便在美國也一樣,因此,雙方的合作就是要建立城市級的主權AI,以後才能繼續進行SaaS的應用服務。

陳其邁說:「這次去就見了負責主權AI、機器人與邊緣AI技術、企業行銷與全球AI等三大領域的副總裁,針對AI運算技術在智慧城市治理、智慧醫療、智慧製造、機器人等領域的應用,進行深入討論,特別是在生成式AI技術,導入醫療領域,加速新藥研發與基因工程應用的合作可能性」,跟這三位實際負責的人洽談,「在智慧城市這一塊,談的還蠻深入。」

智慧城計劃 走在六都最前面

他說,在GTC大會上,他跟羅達生副市長在VIP區的座位,坐在旁邊的華碩董事長施崇棠,前面的Intel前執行長季辛格等,大概都是全球負責AI部門或公司、企業的負責人,在聽完黃仁勳的演講、大家討論之後的共識,是未來所謂的AI、機器人、或其他終端應用,大概是不會回頭了,所以「跟着NVIDIA走,就對了!」而在六都裡面,高雄推動智慧城市,都是第一名,比其他城市走得快,高雄主權AI對全球來說,「我們更是走在最前面,在技術的前緣,大概沒有其他城市在這樣做。」

更厲害的是,高雄主權AI除了採視覺語言模型(VLM)訓練,更是屬於AI的整合應用。陳其邁指出,現在的AI訓練不會是各做各的,例如一個路口的監視器拍攝到的車禍影像資料,不會只有提供交通局作爲車流計算,也同步作爲警察局、消防局的交通指揮、車輛違規與否、車牌辨識、或救護車調派救人等宗合運用。

「這就是生成式AI的訓練」,陳其邁解釋,「不像只是喂資料的AI訓練,而是屬於複合型、跨部門、跨資料庫的整合,這個只有在生成式AI才做得到。」

陳其邁透露,除了高雄主權AI燈塔計劃,高市府和輝達未來會有很多合作的計劃,而AI發展也已經有一個比較清晰的路徑,因此,歡迎各縣市加入高市府的燈塔計劃,Reset重來,大家從生成式AI開始一起邁步向前。