Arm 發表 AI 最佳化的 Arm 終端產品運算子系統與全新 Arm Kleidi 軟體以重新定義行動體驗

May 30, 2024

 

新聞重點:

  • Arm® 終端產品運算子系統 (CSS) 是全新的運算解決方案,結合 Armv9 的各項優勢,以及通過 3 奈米製程節點驗證及認證可量產實作的全新 Arm CPU 及 GPU,協助晶片合作夥伴迅速創新並加快上市時程。
  • AI 最佳化的 Arm 終端產品 CSS 搭配次世代 Cortex®-X CPU,提供最高的每時脈可執行指令 (IPC) 年增率,提升 36% 效能;新的 Immortalis™ GPU 在繪圖效能方面則提升 37%。
  • 全新 KleidiAI 軟體與當前熱門的 AI 架構整合,提供無縫的開發人員體驗; KleidiAI 結合 Arm CSS,透過運用 Arm 的多種加速技術(NEON™、SVE2 和 SME2),大幅提升運算應用程式的效能。

Arm 控股有限公司 (納斯達克股票代碼: ARM,以下簡稱 Arm) 今日宣布推出 Arm 終端產品運算子系統 (CSS) ,以提供領先的基於人工智慧 (AI) 的體驗,並使晶片合作夥伴能更輕鬆、更快速地建構基於 Arm 架構的解決方案且迅速上市。Arm 終端產品 CSS 提供了旗艦級行動裝置 SoC 的基礎運算元素,並具備最新的 Armv9 CPU、Immortalis GPU、針對 CPU 和 GPU 在 3 奈米製程節點上的量產就緒實體實作,以及最新的 Corelink™ 系統互連和系統記憶體管理單元 (SMMUs) 。今日同步推出的 Arm Kleidi,可使軟體開發人員能無縫存取 Arm CPU 上的最佳效能,包括運用於 AI 工作負載的 KleidiAI 和運用於電腦視覺應用的 KleidiCV。

Arm 資深副總裁暨終端產品事業部總經理 Chris Bergey 表示:「在 AI 時代加速進展之際,以功耗效率為核心基因的 Arm 平台正為下一波的運算需求提供基礎。Arm 終端產品 CSS 在平台能力上展現大幅躍進,持續突破高階行動體驗的限制。」

無可比擬的 CPU 和繪圖處理器效能及效率

Arm 終端產品 CSS 是最快速的 Arm 運算平台,提升 30% 以上的運算及繪圖效能,以因應實際應用時複雜的 Android 工作負載,並以加快 59% 速度的 AI 推論,處理更廣大的 AI / 機器學習和電腦視覺工作負載。

終端產品 CSS 的核心,是 Arm 史上效能及效率最佳、且功能多樣的 CPU 叢集,提供最高的效能及功耗效率。全新 Arm Cortex-X925 提供 Cortex-X 史上最高的效能年增率。運用領先的 3 奈米製程節點,若以時脈頻率為 3.8GHz 且以最大的快取大小為準,與 2023 年使用 4 奈米製程的旗艦級智慧手機的 SoC 相比,單執行緒效能提升了 36%。至於在 AI 方面,Cortex-X925 提升令人驚豔的 41% 效能,有助於大幅強化裝置內生成式 AI 的反應速度,例如大型語言模型 (LLM)。

全新 Arm Cortex-A725 CPU 除了持續追求尖端效能,也結合尖端效率,其效能效率提升 35%,目標鎖定 AI 及手機遊戲等使用場景。這受惠於更新的 Arm Cortex-A520 CPU 及 DSU-120,讓採用最新 Armv9 CPU 叢集的消費性裝置,得以提升功耗效率及擴充性。請在此部落格進一步瞭解全新 Armv9 CPU。

全新 Arm Immortalis-G925 繪圖處理器是 Arm 目前效能及效率最高的繪圖處理器,於各式頂尖的手遊應用程式提升 37% 效能,並於多種AI及機器學習網路提升 34% 效能。Immortalis-G925 適用於旗艦級智慧手機市場,而包括 Arm Mali™-G725 和 Mali-G625 GPU 在內的全新高擴展性繪圖處理器系列,則將鎖定更廣大的消費性裝置市場,涵蓋高階行動手持裝置、智慧型手錶及 XR 穿戴式裝置。請在此部落格進一步瞭解 Arm 的全新 GPU。

以最佳化軟體實現優異的開發者創新

Arm 致力於全球數百萬開發人員,確保他們能夠獲得創建下一波 AI 應用所需的效能、工具和軟體函式庫。為了使開發人員能夠以最高效能快速實現這些創新,Arm 推出 Arm Kleidi,其中包括針對 AI 工作負載的 KleidiAI 和針對電腦視覺應用的 KleidiCV。KleidiAI 是一組為 AI 框架開發人員設計的運算核心,使他們能夠無縫存取 Arm CPU 上的最佳效能,適用於各種裝置,並支援 NEON、SVE2 和 SME2 等關鍵 Arm 架構特性。KleidiAI 與現行熱門的 AI 框架整合,例如 PyTorch、TensorFlow 和 MediaPipe,以促進主要模型包括 Meta Llama 3 和 Phi-3 的加速。它也能向前及向後兼容,確保 Arm 在導入更多技術時仍能適用於未來。請在此部落格進一步瞭解全新 Arm Kleidi。

推動 AI 未來發展的運算平台

終端產品 CSS 以尖端 CPU 及 GPU 技術、可量產實體實作,以及持續進行的軟體最佳化等獨特組合,並結合 Kleidi 軟體,將成為推動 AI 未來發展的運算平台,AI 的未來將建構於 Arm 之上。

 

合作夥伴證言

英特爾晶圓製造服務生態系技術辦公室副總裁暨總經理 Suk Lee

英特爾晶圓製造服務與 Arm 密切合作,而此一最新發表內容揭示了 Arm 在終端產品方面的進展。我們在領先的技術節點上與 Arm 緊密合作,包括 Intel 18A,以提供最佳的功率、效能和面積組合,並基於 Arm 全新的運算子系統 (CSS),提供次世代行動 SoC 產品。


聯發科技資深副總經理 徐敬全

聯發科技將於下半年推出新一代旗艦行動晶片天璣 9400,採用最新的 Armv9 Cortex-X925 CPU 和 Arm Immortalis-G925 GPU。我們與 Arm 的長期合作關係,將有助於共同推動運算技術的未來發展,加速行動晶片性能與功能的提升。

三星電子執行副總裁暨晶圓設計平台發展部門負責人 Jongwook Kye

客戶對於嵌入行動裝置中的生成式AI能力的需求強勁,這需要整合頂級的晶圓技術與領先的運算解決方案。將 Arm Cortex-X925 CPU 解決方案與三星晶圓製造最新的 3 奈米 GAA 製程節點結合,滿足了此一需求。我們與 Arm 長期的夥伴關係,使我們在設計技術共同優化(DTCO)和功率、效能和面積(PPA)最佳化方面進行早期且緊密的合作,進而準時地提供晶片,並達到效能和效率的要求。

三星電子總裁暨行動體驗部門負責人 TM Roh

三星和 Arm 始終在挑戰技術現狀並持續在行動領域推動新的可能性。隨著 AI 的普及改變了整個產業和社會,我們將持續開發領先技術,以促進和豐富人們的生活。我們很高興能與 Arm 合作,開啟行動 AI 的新篇章,為全球人們的裝置提供更強大的 AI運算效能。

台積公司生態系統與合作聯盟管理部門負責人 Dan Kochpatcharin

AI 優化的 Arm CSS 是 Arm 和台積公司合作的一個典範,協助設計者實現前所未有的效能和效率,突破 AI 半導體創新的限制。與 Arm 以及我們的開放創新平台(OIP)生態系統合作夥伴一起,我們能夠提供客戶最先進的製程技術和設計解決方案,以加速他們的 AI 創新。

vivo 首席晶片規劃專家夏曉菲

vivo 非常注重使用者體驗,在 Arm CSS 的技術基礎之上,我們與 Arm 的密切合作,共同推動開發者生態,使手機更流暢更好用,同時也為裝置端帶來了創新的 AI 體驗。我們很高興看到 Arm 終端產品 CSS 所導入的新方向,以及透過 Armv9 CPU 與 Arm GPU,這套運算子系統將促成新一代裝置端生成式 AI,進而實現沉浸式的智慧行動端解決方案。

關於 Arm

Arm 技術正在建構運算的未來。Arm 的低功耗處理器設計與軟體平台,已促成超過 2,800 億顆晶片的先進運算,我們的技術安全地驅動包含感測器、智慧型手機甚至於超級電腦等產品。Arm 攜手超過 1,000 家技術合作夥伴,使人工智慧得以在任何場景順利運作。而在網路安全領域,我們也致力於為從晶片到雲端的數位世界奠定信任的基礎。世界的未來將建構於 Arm 之上。


所有資訊都「依目前情況」提供,且並不帶保證或代表性。此文件可以自由分享,但不得修改且必須註明出處。Arm 是 Arm Limited(或其子公司與附屬機構)的註冊商標。所有品牌或產品名稱均為所屬公司之財產。© 1995-2024 Arm Limited.