晶片設計迎5變革 Arm點名AI關鍵挑戰

圖爲印刷電路板上的晶片。(路透)

Arm最新發布《晶片新思維：奠定AI時代新基礎》報告，指AI時代晶片的設計架構將有許多轉變，多樣AI工具軟體與硬體的相容運作，更是邊緣運算的挑戰，因爲許多AI開發者需要面對軟體在多種硬體平臺上都要運行，平臺之間缺乏標準化，將可能使AI效能在某些硬體平臺上被拖累。

Arm應用工程總監徐達勇指出，AI系統日益複雜，從大型語言模型（LLMs）到進階的推論代理（advanced reasoning agents），對運算能力的需求也大幅提升，這些都考驗晶片設計者如Arm，AI基礎模型工作負載將由CPU跟GPU分工合作，一個全新的基礎模型方法論將使AI推論更爲複雜，需要更多CPU架構。

報告指出，AI革命正在影響運算架構面臨兩新趨勢：對專用 AI 加速的需求，爲支援新型工作負載所需的強大主處理器需求。

尤其是先進的AI模型，已經從推論走向進階推論，甚至於更復雜的「代理」，運算需求大幅提升，帶來龐大運算。進階推論本身就將帶來龐大運算力需求，長遠而言，企業更將部署能處理複雜任務的「代理（agents）」，大幅度增加對更先進的訓練及強大的推論力需求。

愈來愈多AI應用者開發自有AI加速器，以滿足自有需求，Arm指出，不只是GPU跟CPU的搭配合作，還是Google自行開發的TPU晶片、Microsoft的加速晶片Maia、或AWS的Tranium與Inferentia客製化晶片，都仍需要主處理器（host CPU）。

但CPU架構與其他晶片的合作關係變得比以往更加複雜，在打造更強大、更高效率的運算系統的過程中，是一種挑戰，也是巨大的機會。針對AI帶來的機會與挑戰。

展望未來，半導體晶片有幾大趨勢，1.生態系合作程度提升：IP供應商、晶圓代工廠、封裝廠與系統整合商之間必須有更密切的合作。白話地說，IP設計業者，無法在不瞭解該矽智財實際如何實作於晶片中就開發出IP。

2.系統導向：從系統層面思考，而不僅是個別元件規劃設計，從運算、記憶體、供電與熱管理等最佳化，3.標準化需求：業界必須建立新的標準，以支援小晶片的介面、供電與散熱管理，實現模組化晶片設計。

4.電源感知設計：晶片設計的每一個環節都以能源效率爲核心指標。5.專業化：不同的工作負載將愈來愈需要專屬的架構，促使晶片設計更具多元類型。

展望未來，他表示，半導體產業正處於一個十字路口，過去摩爾定律正讓位給一個由權衡與選擇所構成的複雜局面，但挑戰也將是創新契機。