《科技》郭明𫓹:DeepSeek引領裝置端AI大潮 臺積電將受益

郭明𫓹表示,臺積電與Nvidia均預期,裝置端AI將在2026年顯著成長。臺積電先前在法說會中提到,裝置端AI的趨勢將在2026年顯現出來,而Nvidia的AI PC處理器N1X/N1的量產預計將在2025年第四季至2026年上半年之間開始。

他認爲,DeepSeek的爆紅將加速裝置端AI的普及。DeepSeek的成功直接促使Nvidia H100晶片的訓練需求大幅增加,這也證明了優化訓練方式(可視爲降低成本)對訓練需求的正面影響,並再次驗證了CUDA生態系統的優勢(即使用者選擇H100的原因)。

然而,更顯著的趨勢是,隨着DeepSeek的流行,本地端部署大型語言模型(LLM)已成爲一大熱潮。DeepSeek R1提出的訓練優化方式能提升裝置端中小型LLM的效能,且對於使用雲端DeepSeek的資料安全顧慮,亦是推動此熱潮的原因。預計未來將會有更多類似DeepSeek的開源模型問世,本地端部署LLM的熱潮將持續增長。

目前,部署本地端DeepSeek的常見做法與規格包括:LM Studio用於簡化部署流程、Ollama用於執行模型,並採用4-bit/8-bit量化來降低顯示卡記憶體需求,同時保持良好的效能,支持從1.5B到70B的參數規模,並適用於從低階筆記型電腦到搭載Nvidia獨立顯卡的中高階PC等裝置。

儘管目前僅有少數人部署或使用本地端DeepSeek,對於Nvidia雲端AI晶片需求尚未產生立即影響,但長期來看,裝置端將取代部分雲端需求。然而,裝置端的成長也有可能創造新的雲端需求(如H100的例子),因此兩者需求將同時增長並整合成新的AI生態系統。

郭明𫓹強調,他對雲端長期成長的趨勢並不悲觀,但需注意,裝置端的發展速度超出預期,可能會使得雲端成長的速度在某些時期低於市場先前的樂觀預期,並影響投資氣氛。展望未來,隨着GB200 NVL72的順利量產,Scaling law將重新加速,或是AI在機器人、自動駕駛、多模態等新應用領域的商業化加速,都將有助於降低雲端成長的不確定性。

最後,郭明𫓹指出,臺積電將繼續是裝置端AI趨勢中的最大贏家之一(因爲裝置端處理器的升級),但Nvidia在裝置端將面對的競爭將顯著高於雲端,這對短期的投資氣氛構成挑戰。