在 Arm 架構上有效率地實現人工智慧工作負載
裝置內生成式人工智慧
精密複雜的生成式 AI 模型問世後，點燃全新一波的創新浪潮，並讓科技有機會大幅改變。
Arm 運算平台提供效能最高的高效功能，讓生成式人工智慧能在手機、個人電腦及資料中心執行。
人工智慧推論
隨著人工智慧應用持續增加，人工智慧推論能力的需求將大幅成長。Arm CPU 為在所有運算接觸點上運行的推理提供了技術基礎，將人工智慧帶入全球數十億人的手中。
Arm 異質解決方案提供客製化途徑
我們瞭解開發人員的目標，是讓智慧型手機領域第三方應用程式當中，有 70% 的人工智慧工作負載在 Arm CPU 執行，原因包括彈性、普及和易於移轉。不過，有些工作負載可以受益於異質人工智慧方法，可實作於 GPU 和 NPU 等加速器。
無論您整合的對象是 Arm 繪圖處理器 (例如 Arm Mali 和 Arm Immortalis)、Arm Ethos NPU，還是合作夥伴解決方案 (例如 NVIDIA 的 Grace Hopper 和 Grace Blackwell)，Arm 異質人工智慧的技術都有助於客製化、選擇和彈性，協助您完美補足 CPU 的不足之處，達到加速機器學習的目標。
Arm 的技術是讓人工智慧無所不在的重要關鍵。
「我們投資技術促成具有彈性的運算解決方案，讓效率及效能達到平衡狀態，以便在任何地方符合工作負載的執行需求。不論是 CPU 及 GPU 的功能，或是持續開發的 Arm Ethos NPU，我們都持續進行策略投資，在未來裝置提供人工智慧功能。」
- Arm 執行副總裁暨架構長 Richard Grisenthwaite
協助開發人員生態系快速部署
軟體開發人員是人工智慧 (AI) 創新的核心。無論他們是透過音訊、視覺或文字資料進行實驗以獲取洞見，或是利用生成式 AI，他們需要相信他們能夠在廣泛可用的平台上，以最有效的方式部署他們基於 AI 的工作負載，並確信程式碼和資料將安全執行。
Arm 正在加速此一轉型，通過與主要作業系統和 AI 框架的整合，確保在每個使用案例中無縫交付性能和效率，從而實現快速且可信的 AI 創新。
做為全球超過 2,800 億個數位裝置的基礎架構，Arm 提供了多種價位的最廣泛的硬體平台選擇，既提供效率又不在效能方面有任何妥協，為當前和未來的 AI 工作負載提供一個一致的、有支援的、有安全保障的基礎。
“軟體開發人員是推動未來數位解決方案實現的驅動力，而這些解決方案中有很大一部分將利用 AI。我們與廣泛的合作夥伴生態系合作，在成千上萬的協作軟體項目中工作，為 AI 工作負載提供易於使用的軟體工具箱。我們為所有協助開發人員的關鍵專案做出貢獻，為在 Arm 架構上加速 AI 創新和效能提供了一個基本框架，從終端到雲端實現 AI。”
- Arm 軟體部門資深副總裁 Mark Hambleton