雙NPU黑科技 聯發科天璣9500存算一體大突破

聯發科無線通訊事業部總經理李彥輯指出,CIM就是希望在記憶體儲存過程中,做到逐片運算,大幅降低運算時存取記憶體所需能量。供應鏈業者指出,芯測爲全球少數提供記憶體測試與修復的EDA業者,深耕CIM架構研發,提供頂級IC設計客製化方案。

李彥輯分析,天璣9500因應未來手機作爲個人助理需求,Always on使手機更懂用戶需求、並即時響應;聯發科鑽研CIM技術多年,首次將該技術搭載於NPU上,在大、小模型運算上,能將功耗降到最低。

全新高性能高能效雙AI處理器NPU 990,賦予智慧手機遠超以往的AI能力;峰值性能較上一代提升111%,在大語言模型智慧摘要的輸出能力、多模態理解能力皆大幅躍進;同時,NPU 990兼顧讓AI體驗更持久,相較上一代在峰值性能功耗降低56%。

芯測針對CIM的測試電路,開發相關SRAM測試與修復EDA工具,與國際IC大廠合作,以創新的記憶體運算技術,驅動AI演算法更節能;據悉,在AI伺服器需求帶動下,GPU與HBM也正加快公司營運成長。

IC設計公司透露,芯測近年積極推動商業模式轉型,除傳統授權與維護費外,導入類似IP(矽智財)的權利金模式,未來成長彈性提升。此外,美國出口管制下,中國大陸自研EDA需求急速上升,芯測市場空間廣闊。

傳統的馮紐曼(Von Neumann)架構,運算單元(CPU/GPU)與記憶體單元(DRAM/SRAM)分離。CIM漸成爲新應用嘗試,不過,李彥輯強調,CIM運算處理的運算單元相對單純,現階段最適合的應用當屬高能效NPU。