科學人/AI應走向哆啦A夢 耐能智慧創辦人劉峻誠:要解決問題,先看清本質

攝影/尤理

當全球科技巨頭都在爲了人工智慧(AI)的算力搶奪珍貴的電力資源,甚至提議建造核電廠以維持AI的運作,來自臺灣的新創公司「耐能智慧」(Kneron)研發出可讓AI走向低功耗、高效率的獨特核心技術,並以此拿下德國與沙烏地阿拉伯的「主權AI」標案。本期我們專訪耐能智慧的創辦人兼董事長劉峻誠,技術出身的他親自爲我們揭開神經處理器(neural processing unit, NPU)的秘密,以及爲什麼他堅持AI的未來是走向「哆啦A夢」而非「魔鬼終結者」、堅持用技術爲AI開創更永續、更良善的道路。

林大涵(以下稱林):耐能是如何以臺灣公司的身分,取得其他國家主權AI(sovereign AI)的標案?

劉峻誠(以下稱劉):其實我也覺得滿奇特的,我一直以爲在自己家鄉是最容易的,但事實卻是顛倒,我們先取得主權AI授權的國家是德國跟沙烏地阿拉伯。這兩個國家有一些特色,例如沙烏地阿拉伯的水很貴,是水比石油還要貴的國家。

大家應該知道:AI運算,如果使用純的圖形處理器(GPU)架構,耗電量非常大,碳排放量也非常大;用GPU跑GPT伺服器等級的主權AI,一年的碳排放量幾乎等於新加坡一國的碳排放量,這樣等級的耗電量幾乎要一座核電廠來供應。耐能提供的方案是一個NPU+CPU架構,相較於純GPU架構,這種架構最大特色是功耗很低。沙烏地阿拉伯建得起核電廠,但核電廠需要大量冷卻水,這種天然的限制就是個困難,這應該是我們能拿下沙烏地阿拉伯訂單的主因。至於德國,我覺得最大原因也是他們的核電廠已經除役很久了。

林:能不能也幫我們介紹NPU 的架構?

劉:NPU 就是在模擬人腦,我把它稱爲「可重構」( reconfigurable)的架構。人腦非常大,有數百億個神經元,其中有視覺區、嗅覺區、聽覺區等不同的區塊。NPU 的做法是收集大腦神經元訊號,有些媒體會說耐能做的是樂高積木式的AI 晶片,意思就是我們建構大腦中的許多區塊,每個區塊都有最基本的功能,所以並不需要建造整個大腦。例如我要做視覺的AI 的時候,我就把中間這一塊組成視覺皮質的形狀,大小可能只有整個腦的十分之一。它的單位小,當然功耗就低。下次如果要做聽覺,我可以全部拆掉,因此稱之爲可重組、可重構。

能這麼做,是因爲我們清楚神經運算的本質,包含技術的本質以及解決問題的本質。GPU 做圖像識別可以做得很好,因爲這項技術的本質就是一格一格去比對;NPU 的底層邏輯就是模擬大腦的神經元連結,基本組成就像神經元,只在指令上多加一些「黏土」,再把它捏成其他「形狀」,很快就能微調出客戶想要的產品。

林:你的博士論文主要就是研究NPU,當時是什麼原因,讓你決定走上NPU這條路?

劉:有很多因素,其中一個帶有一點個人情懷。我一直覺得真正的AI應該是離線式的,概念上類似個人設備裡有一個自己的AI,就像我有我的大腦、你也有你的大腦,我們的大腦並沒有連到一個更大的腦,然後全知全能,對吧?這就是NPU的方向。目前人類幻想的AI有兩種走向,一種是雲上的AI,就像電影魔鬼終結者、駭客任務。從道德或人類文明來看,這個方向好像滿危險的。

另外一種走向是什麼?就是哆啦A夢、星際大戰裡的R2-D2或C-3PO,讓好的機器人跟好的人類相處在一起,這個方向比較安全。當然機器人也有壞的,但是人類本來就有好人與壞人,文明之所以能持續,大概就是好人總是能活到最後。如果有一個全知全能的AI,它可能會超出人類的控制能力,所以我覺得,AI的方向應該是要走向「端」(終端、邊緣)的AI。當我們把AI帶到端,它畢竟是一個封閉系統,不會受到刻意操弄的雲上的資訊污染,它的良善才是可控的。

林:除了端跟雲的AI革命,還有其他AI革命嗎?

劉:晶片的革命。這就是爲什麼我們要創造NPU這個名詞。PU、CPU、GPU和NPU是一種技術的迭代:CPU在人類歷史上已經有60幾年的歷史,最有名的公司就是英特爾(Intel);GPU在人類歷史上也30幾年,但GPU晶片最早是爲遊戲而生,並不是專爲AI而生,因爲是舊的技術、舊的架構,所以跑ChatGPT需要核電,才能支持這麼龐大的耗電量;NPU能從最根本解決問題,就是把原本在雲上的AI或者用舊架構設計的AI,用一個低成本、輕量級的晶片達成這項邏輯計算。這就是NPU要走的方向。其實就是看事物的本質,NPU能從根本解決這個問題,我們就覺得它一定會起來,因爲凡事離不開本質!

林:你在韓國的三星和臺灣的晨星半導體的工作經驗,對於創業有沒有幫助?

劉:三星是一家非常有制度的公司,有很多機會,那段時間我上了很多商業的課程,讓我對經營管理甚至組織架構都有很好的訓練。我在晨星的團隊是做手機的觸控晶片,則讓我第一次感受到海外跟臺灣文化的不同。臺灣很習慣做「快老二」,跟着別人做,然後把成本降低,再用很便宜的勞力成本去生產。那時我把某顆晶片大幅改造,最後也做出了一顆晶片,而且應該是晨星有史以來銷量最高的晶片,但是對我來講是很大的文化衝擊。

林:如果現在耐能的晶片突然出現在某些產品裡,你覺得會澈底改變大家對這件事情的認知嗎?

劉:其實耐能的晶片已經在某些產品裡了。在美國、日韓的報導中,我們耐能已經是權威,韓國的LG、現代汽車、Naver,以及韓國最大的國防工業公司韓華,其AI攝影機50%以上用的是耐能的晶片。

我覺得這問題還是回到臺灣的民族自信心。我們的血液裡好像就覺得,臺灣人沒辦法做最前沿的研發,即使我在海外已得到許多證明,連美國最好的大學都使用我寫的教課書《深度學習—硬體設計》(Deep Learning-Hardware Design)。這不是事實證明的問題,我們可以打進德國、沙烏地阿拉伯,但在臺灣卻這麼難,這是我們自己的文化問題。

林:你現在這麼忙,你的時間怎麼分配?你還有在做研發嗎?

劉:我每天晚上還是會看一下最新的學術論文,我寫的課本最近也要推出新版,我把每件事情都透徹到能理論化甚至公式化,更要求裡面的內容深度足夠。我認爲凡事離不開本質,本立纔會道生,公司的本質要好,跟技術一定有關。在高科技產業,強的公司都有很硬的技術,所以纔有很好的產品。高通( Qualcomm )的分碼多重存取(CDMA)技術夠強,所以它在無線通訊纔是霸主;Google 的搜尋引擎夠好,它才能獨佔搜尋的市場。

林:很多人在談AI 的時候,會談到虛擬智能或是虛擬的自己。耐能已經把邊緣AI 做得這麼極致了,你們有做一個虛擬的老闆嗎?

劉:有時候我工作很忙,或是要出差幾天,我會把自己以前的對話,甚至包含了我的聲音,寫成一個虛擬的我。因爲做了這件事,更讓我反思我們前面討論的問題:AI 技術繼續發展下去,可能就是人與所謂的道德層面或者是文明層面,到底會怎麼發展的問題。我舉一個AI 與陪伴有關的例子,如果有個人想要跟你取得聯繫,而他聯絡到的是AI的你,但他仍然能從這個AI 裡感覺到自己正在把愛傾注在你身上,這種AI 陪伴應該會是很好的服務。但如果AI 在雲上學到太多負面資訊,就可能提供負面想法,甚至失控;設計必須是良善的、沒有被雲上的資訊污染,提供的陪伴與照顧纔可能是好的。

林:你怎麼看待自己幾經波折的工作以及創業經驗?

劉:我覺得是我的人生經歷造就了我,我待過很小的公司,也待過大公司分拆的新創公司,我也在高通或是三星這種跨國企業做過最前沿的研發。不同規模的團隊,管理制度都不一樣,這些經驗也讓我學習怎麼經營現在的團隊。我人生的每一個階段,其實都給了我足夠的養份,最後造就了我今天的樣子。

(本文出自2025.10.01《科學人》網站,未經同意禁止轉載。)