加速邊緣人工智慧創新
在邊緣人工智慧 (AI) 資料處理的工作負載已經改變了使用場景和用戶體驗。第三代的 Ethous NPU 協助因應未來邊緣AI 使用場景的需求。
比起 Arm Ethos-U55 和 Arm Ethos-U65 從 128 增加到 2048 MAC 單元,並降低 20% 功耗,以永續方式促成高效邊緣 AI 使用場景,同時提供與前幾代 Ethos-U 相同的工具鏈讓合作夥伴能享有無縫轉移並可繼續利用投資於 Arm 架構的機器學習 (ML) 工具。
特色與效益
節能效果比 Ethos-U55 及 Ethos-U65 高出 20%,以永續方式實現未來使用場景。
由 128 個擴充為 2048 個乘加器 (MAC),於 1 GHz 提供高達 4 TOPs 的效能。
原生支援轉換器網路,並支援張量運算子集架構 (Tensor Operator Set Architecture, TOSA) 做為標準配備。
由 Arm Corstone-320 支援的參考設計,具備統一工具鏈及廣大的 Ethos-U 生態系。
產品規格
Arm Ethos-U85 是最高效能的 Arm Ethos-U NPU 實作成果。可促成強化邊緣人工智慧處理能力、支援轉換器架構的模型,並提供比前代 Ethos 高出 20% 的能源效率。Ethos-U85 的關鍵特性包括:
- 可擴充效能 – 在 1 GHz 情況下從 256 GOP/s 到 4 TOPs
- 可由 128 個擴充為 2048 個乘加器
- 進一步降低能源消耗 - 比先前的 Ethos-U NPU 降低 20%
- 原生支援轉換器架構的網路
Ethos-U85 鎖定多項不同應用目標,可搭配使用高效能的 Arm Cortex-A,或是基於 Arm Cortex-M 架構的低功耗嵌入式裝置。
關鍵文件
比較所有 Ethos-U 處理器:下載比較 PDF
各種創新成果與設計理念在此實現
相關產品
矽晶設計成功的基礎
Arm 運算函式庫
該軟體函式庫集合了用於 Arm Cortex-A CPU 與 Arm Mali 繪圖處理器的最佳化低階函數,鎖定熱門的影像處理、電腦視覺與機器學習等領域。與作業支援系統 (OSS) 替代方案相比,效能大幅提升,還能按照 MIT 開放原始碼授權規定免費提供。
CMSIS-NN
通用微控制器軟體介面標準-高效率神經網路實作 (CMSIS-NN) 是一組高效率的神經網路核心,開發目的在於將效能提升到最大程度,以及將 Cortex-M 處理器核心上神經網路的記憶體占用面積降至最低。
Arm 類神經網路
Arm 類神經網路拉近現有神經網路框架與基礎 IP 之間的差距。它可以高效轉換 TensorFlow 及 Caffe 等現有神經網路框架,無需修改便能讓前述框架在 Arm Cortex-A CPU、Arm Mali 繪圖處理器與 Ethos-N NPU 上高效執行。