Arm SME2技術 加速Android AI升級

Arm推出SME2 技術，加速 Android AI 升級，驅動行動應用之次世代功能革新。圖／Arm提供

隨着人工智慧（AI）工作負載變得日益複雜，且廣泛應用於各個領域，Arm推出可擴展矩陣延伸指令集 2（SME2）技術，以直接在行動CPU上加速高強度的矩陣運算工作負載。

SME2是Armv9架構中的一組高階CPU指令集，它是基於SME升級、能夠在AI異質運算框架下，支援影像處理、自然語言處理、語音生成等在行動端的即時推論任務。

SME2已在Google專爲Android系統最佳化的神經網路推論函式庫XNNPACK中提供支援。此外，SME2也被整合至多個框架中，包括阿里巴巴MNN、Google LiteRT和MediaPipe、微軟ONNX Runtime，以及llama.cpp。

搭載SME2強化硬體的Android新機即將上市，開發者可率先透過硬體加速使AI效能躍升。同時，SME2已支援最新的iOS裝置（完整支援機型列表詳見此處），只要其應用中使用整合SME2的AI框架，效能即可自動提升。