生成式人工智慧由 CPU 開始
Arm 技術提供高效基礎，推動人工智慧大規模加速，促成生成式人工智慧在手機、個人電腦及資料中心執行。這要歸功於 20 年來 CPU 架構在向量及矩陣處理方面的架構創新成果。
這些投資所促成的創新成果，除了加速人工智慧運算，也提供安全性協助保護寶貴模型，並讓開發人員享有流暢的部署體驗。
適用於生成式人工智慧推論的異質解決方案
為了讓生成式人工智慧快速擴展規模，我們必須確保在平台層級考量人工智慧需求，以實現所有運算工作負載。
進一步瞭解我們頂尖的人工智慧運算平台，包括繪圖處理器和 NPU 等一系列的 CPU 及加速器產品組合。
生成式人工智慧創新的軟體合作關鍵要素
Arm 參與多項策略合作關係，推動人工智慧架構的體驗，同時提供廣泛的軟體函式庫及工具，並與所有主要作業系統及人工智慧框架合作整合。我們的目標是確保開發人員能夠順利進行最佳化，無須浪費寶貴資源。
協助人工智慧工作負載順暢加速
深入探索 Arm 如何確保讓每名開發人員、每個模型及每個工作負載都能順暢加速。Arm Kleidi 讓 CPU 推論能夠容易取得及使用，即使是最繁重的生成式人工智慧工作負載也不例外。
在 Arm 架構上高效執行生成式人工智慧
需要建議，瞭解如何在 Arm 架構上高效執行以生成式人工智慧強化的工作負載嗎？這類放在 Hugging Face 的資源，可協助您更快速建構、部署及加速各種模型，包括大型及小型語言模型，以及自然語言處理 (NLP) 模型。
