Arm 參與 COMPUTEX 2024: 邁向 2025 年 1,000 億台 AI 就緒的 Arm 裝置之路
透過 Arm 終端產品運算子系統(CSS)與 KleidiAI 等創新,Arm 執行長 Rene Haas 預期在 2025 年之前,將有超過 1,000 億個裝置可執行 AI 運算。
我們有足夠的能源供應 AI 嗎?
Haas 解答了其中一個關鍵問題:世界是否有足夠的能源來支援,以因應 AI 持續增加的運算需求。雖然我們在 AI 領域看到驚人的創新,但這個產業正處於一個有趣的兩難處境:處理 AI 效能需求的處理器越好,能源需求就越大。由於 Arm 的 DNA 源自設計電池供電的裝置,Haas 認為這也是為什麼我們看到越來越多領先的雲端服務提供商如 AWS、Google 和 Microsoft 等採用 Arm 技術。Arm 是世界上最節能的 CPU,Haas 認為它帶來的節能已經在推動令人難以置信的 AI 創新。
關鍵在於軟體
在公司 30 多年的歷史中,Arm 以領先的節能效率而聞名,這也是其成為世界上最普及的運算平台的基礎。然而,Haas 表示,真正使 Arm 與眾不同的是其無與倫比的軟體生態系。Haas 指出,Arm 已經成為全球每個主要作業系統的既定標準。Microsoft 最近宣佈的 AI PC 就是其中一個很好的例子,所有最常用的應用程式,現在都在 Windows on Arm 上原生運行。事實上,擁有 1,800 萬軟體開發人員的生態系,使得今天有更多的開發人員在 Arm CPU 上設計,而不是任何其他處理器。
如果我們希望能從邊緣的最小裝置到雲端的訓練和推論,體驗 AI 帶來的社會變革,這種對開發人員的支持是極其重要的。開發人員需要能夠將他們在 AI 上的創新應用於硬體,並在效能優化、功耗最佳化、高度可執行和可預測的狀態下運行。
為確保以上所述能在 Arm 運算平台上實現,Haas 介紹了 Arm KleidiAI,這是一套新的 AI 運算函式庫,使開發人員更容易在 Arm 上運行他們的 AI 應用程式。Haas 表示:「在 Arm 超過 30 年的歷史中,如果我們有學到什麼,那就是無論硬體多出色,如果沒有開發人員能夠存取的資源,那硬體也沒有多大用處。」
例如,當開發人員在 TensorFlow、PyTorch、Llama 3 和 MediaPipe 等框架中工作時,KleidiAI 使他們能夠進入抽象層,利用底層硬體特性來實現 AI 工作負載的所有效能的潛力。
為了從生態系的角度說明 KleidiAI 的優勢,Haas 分享了來自 Samsung Mobile、Meta 和 Google 等高階主管的影片,介紹 Arm 和 KleidiAI 將如何幫助他們在多元的市場上加速 AI 創新。
Arm 終端產品運算子系統
除了 Arm 在支持 AI 開發人員生態系方面所做的努力相當出色之外,我們還需要繼續提供效能更高和功耗更低的產品。為了分享更多關於這部分的內容,Arm 的資深副總裁暨終端產品事業部總經理 Chris Bergey ,也在會中介紹了最近發表的 Arm 終端產品運算子系統(CSS)。
這是 Arm 第一次在先進的 3 奈米製程節點中,導入其 CPU 和 GPU 的實體實作。 Bergey 表示,這一點非常重要,因為 Arm 生態系現在可以在這些先進的 3 奈米製程節點中,採用經過驗證的核心實體實作,能以更充分的信心更快地上市。
CSS 使晶片製造商更能專注於他們在平台上的差異化,以及 Armv9 架構能為其次世代產品帶來的優勢。結合 KIeidiAI,開發人員擁有得以充分運用這些次世代硬體技術所需的工具。
Haas 在演說結束時進一步強調了 Arm 對 AI 的承諾:提供地球上最完整的運算平台。透過例如 Arm CSS 和 KleidiAI 這樣的創新,他預計到 2025 年底,將有超過 1,000 億台 Arm 裝置可以運行AI。這是個驚人的裝置數量。Haas 表示,這不僅將重塑產業,也將重塑整個地球。
在這裡觀看完整的主題演講內容。
關於 Arm
Arm 是業界效能最高且最節能的運算平台,其無可比擬的應用範疇觸及全球所有連網使用者。為因應全球對運算永無止境的需求,Arm 提供先進的解決方案,使全球領先的科技公司得以釋放前所未有的 AI 體驗與功能。透過與全球最大的運算生態系及 2,000 萬名軟體開發人員的共同努力,我們正在 Arm 平台上建構 AI 的未來。
所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2024 Arm Limited.