歡迎來到深圳市明佳達電子有限公司

當(dāng)前，AI的發(fā)展正無處不在，速度也不斷超越人們的預(yù)期。AI大模型以更加快速、小型、性能強大的方式在演進，也讓端側(cè)AI真正實現(xiàn)落地發(fā)展。

作為一家計算平臺公司，Arm正處于這場AI變革的中心，通過系統(tǒng)層級的方式，幫助合作伙伴更快速地整合技術(shù)并擴大規(guī)模，以抓住AI帶來的機遇。從云端到邊緣側(cè)等各個應(yīng)用，Arm正在計算能效與能源效率方面展現(xiàn)領(lǐng)導(dǎo)地位。

在結(jié)束臺北COMPUTEX行程后，Arm高級副總裁兼終端事業(yè)部總經(jīng)理Chris Bergey到訪北京并接受集微網(wǎng)采訪，分享了在AI方面的洞見和思考。Chris Bergey透露稱最新Armv9旗艦CPU（代號Travis）將于今年晚些時候推出，帶來兩位數(shù)的IPC性能提升以及更加出色的AI性能。

端側(cè)AI加速落地 Arm的三大優(yōu)勢

當(dāng)前，伴隨著AI手機，AI PC的普及，越來越多的端側(cè)設(shè)備開始具備AI能力。端側(cè)設(shè)備對于計算量需求的增長，為推動在各個場景中部署AI帶來巨大機遇。

今年也被稱為AI智能體落地元年，以具身機器人為代表的實體AI集中出現(xiàn)，創(chuàng)造出更多應(yīng)用場景，一些成功的商業(yè)項目和初創(chuàng)公司在加速涌現(xiàn)。

在Chris Bergey看來，在AI智能體方面，有兩個領(lǐng)域頗受關(guān)注。一是利用AI進行編程、代碼審查和修改。二是利用AI提升客戶支持與客戶服務(wù)。

“在上述兩個領(lǐng)域中，一些初創(chuàng)公司正迅速成長，在員工人數(shù)不到100人的情況下快速實現(xiàn)一億美元的營收?！盋hris Bergey說。

在實體AI方面，機器人技術(shù)已經(jīng)開始在多個領(lǐng)域得到應(yīng)用，比如機器狗、配送機器人、掃地機器人等。

“這些設(shè)備在某種程度上已經(jīng)實現(xiàn)了自主運行，但很難說它們已經(jīng)達到了與人類操作相當(dāng)?shù)闹悄芩健２贿^，在接下來的一到三年內(nèi)，我們很快就會迎來這樣的轉(zhuǎn)變：當(dāng)這些設(shè)備處于自主模式運行時，其表現(xiàn)將能夠媲美人類操作。這將帶來巨大的發(fā)展機遇?！盋hris Bergey告訴集微網(wǎng)。

從構(gòu)建AI系統(tǒng)的基礎(chǔ)要素看，Chris Bergey認(rèn)為有三個關(guān)鍵因素。

一是從云端到邊緣打造一個無處不在的平臺將具有極大的價值。因為大部分情況下AI在端側(cè)運行，某些情況下，工作負(fù)載將轉(zhuǎn)移到云端。因此，擁有一個高度且可移植的平臺，對于推動先進技術(shù)及產(chǎn)品的實現(xiàn)，以及為現(xiàn)有產(chǎn)品增加新功能非常有價值。

二是電力和每瓦性能。AI催生了巨大的機遇，也造成耗電的增加。當(dāng)前，數(shù)據(jù)中心的能耗從兆瓦級 (MW) 躍升至吉瓦 (GW) 級，其中超過50%來自于機架和半導(dǎo)體設(shè)備。因此，在AI賦能的世界里，雖然存在巨大的發(fā)展?jié)摿Γ残枰Ａ康挠嬎隳芰?，這意味著“每瓦性能”將成為最關(guān)鍵的衡量指標(biāo)。

三是軟件的重要性。Arm目前擁有全球最大的開發(fā)者生態(tài)，匯聚超過 2,200 萬名軟件開發(fā)者。與此同時，基于Arm架構(gòu)的芯片出貨量迄今已累計超過3,100億顆。這種規(guī)模帶來了一個良性循環(huán)：大量的基于Arm技術(shù)的設(shè)備推動了豐富的Arm軟件生態(tài)，而強大的軟件生態(tài)又進一步催生了更多硬件的發(fā)展機會。

“Arm去年推出了Arm Kleidi，旨在提供一個AI軟件庫，能夠讓AI工作負(fù)載在最新的Arm CPU——即Armv9架構(gòu)上加速運行，同時也具備面向未來的可持續(xù)性。截至目前，Kleidi已累計超過80億次安裝，且仍在持續(xù)增長中。Kleidi 也與許多全球主流的AI框架進行集成，包括國內(nèi)的騰訊混元的Angel機器學(xué)習(xí)框架?！盋hris Bergey說。

從數(shù)據(jù)中心到終端AI 持續(xù)拓展市場份額

通過多年的發(fā)展，Arm在終端設(shè)備和邊緣側(cè)應(yīng)用已經(jīng)被廣泛熟悉。但實際上，在數(shù)據(jù)中心領(lǐng)域，Arm也布局十余年之久，近年來，由于AI技術(shù)的推動，以及在能效方面的優(yōu)勢，Arm的數(shù)據(jù)中心產(chǎn)品受到更多的關(guān)注，也在持續(xù)提升市場份額。

譬如，全球最大的云服務(wù)提供商亞馬遜云科技 (AWS) 有相當(dāng)一部分自身的工作負(fù)載，是運行在基于Arm架構(gòu)的AWS Graviton處理器上。AWS還曾表示，其超過 90% 的重要客戶（不包括 Amazon）也在使用 Arm 的先進架構(gòu)，并受益于 Arm 技術(shù)的卓越能效，很多客戶都是業(yè)界的知名企業(yè)。在過去兩年，在AWS新部署的CPU算力中，有超過50%是基于Arm技術(shù)的Graviton。

“最初，云服務(wù)提供商自身的第一方工作負(fù)載遷移至Arm平臺，隨后，第三方工作負(fù)載也紛紛轉(zhuǎn)向Arm平臺，這為頭部云服務(wù)提供商帶來了超過40%的能效提升。基于這樣的發(fā)展勢頭，我們預(yù)計Arm架構(gòu)將占據(jù)半數(shù)2025年出貨到頭部云服務(wù)提供商的算力?！盋hris Bergey表示。

在邊緣側(cè)，Arm CPU占據(jù)舉足輕重的地位，被廣泛應(yīng)用于各種主流操作系統(tǒng) (OS) 的邊緣計算設(shè)備中。近年來，Arm架構(gòu)在PC與平板市場的需求也大幅增長，Arm預(yù)計2025年，Arm架構(gòu)將占據(jù)超過40%的PC與平板整體出貨量。

數(shù)據(jù)中心和PC此前是Arm架構(gòu)普及程度相對較低的領(lǐng)域，尤其是數(shù)據(jù)中心領(lǐng)域，一直被x86架構(gòu)主導(dǎo)。如果Arm的預(yù)測能夠?qū)崿F(xiàn)，毫無疑問這將會是其一項巨大成就。

這首先得益于Arm近年來推出一系列平臺產(chǎn)品在性能上的顯著提升。Chris Bergey重點介紹了Arm與NVIDIA的合作。

DGX Spark是NVIDIA今年發(fā)布的桌面級AI PC，搭載了10個Arm Cortex-X925 核心和 10 個 Cortex-A725 核心，并配備了可實現(xiàn)高達 1 PetaFLOPs（即每秒 10^15 次浮點運算）AI性能的 GPU，將數(shù)據(jù)中心級別的計算能力帶到了桌面級產(chǎn)品。

NVIDIA不僅在邊緣側(cè)產(chǎn)品中采用Arm技術(shù)，在Grace Blackwell等數(shù)據(jù)中心產(chǎn)品平臺中，也基于Arm架構(gòu)的CPU與GPU緊密耦合，針對AI所需的帶寬和 I/O 密度進行了深度優(yōu)化，從而實現(xiàn)了更高效的計算性能。

在手機市場，Chris Bergey也表示，Arm正在為眾多的生態(tài)合作伙伴（如 MediaTek）提供最前沿的CPU和GPU 技術(shù)，并且這些合作伙伴正與眾多一線手機廠商攜手，將搭載 Arm 技術(shù)的優(yōu)秀手機產(chǎn)品推向市場。

新一代旗艦CPU今年上市 兩位數(shù)IPC性能提升

去年Arm推出了包括Cortex-X925在內(nèi)的新一代旗艦計算平臺。Cortex-X925基于Armv9.2架構(gòu)，實現(xiàn)了IPC性能創(chuàng)紀(jì)錄的15%的增長，極大提升了高性能手機SoC的能力表現(xiàn)。去年MediaTek發(fā)布的天璣9400系列，以及日前小米發(fā)布的玄戒O1都采用了Cortex-X925 CPU，為芯片性能提供了強大的支撐。

Chris Bergey指出，Cortex-X925具備業(yè)內(nèi)最高水平的IPC性能，這一點至關(guān)重要。因為 IPC（每時鐘周期指令數(shù)）與頻率的乘積決定了整個平臺的性能。相較于單純依賴提高頻率來提升性能，提升 IPC可以更高效地實現(xiàn)性能的增強，同時還能顯著改善能耗表現(xiàn)。對于移動終端設(shè)備而言，控制功耗無疑是一個關(guān)鍵考量因素。

同時，Chris Bergey透露稱，今年晚些時候，Arm將推出新一代Armv9旗艦CPU（代號Travis）。屆時，在目前業(yè)內(nèi)IPC性能最高的Arm處理器基礎(chǔ)上，再次實現(xiàn)兩位數(shù)的IPC性能提升。此外，這也將是第一代引入Armv9可伸縮矩陣擴展 (Scalable Matrix Extension, SME) 的處理器，進一步加速處理 AI 工作負(fù)載。

在GPU方面，新一代產(chǎn)品（代號Drage）將加入Arm精銳超級分辨率技術(shù) (Arm ASR)，使用戶能夠在移動設(shè)備上實現(xiàn)游戲主機級畫質(zhì)和游戲體驗。

這兩款產(chǎn)品的結(jié)合將引入面向移動端市場的 Arm Lumex CSS 解決方案，為未來消費電子設(shè)備上的邊緣 AI 性能奠定基礎(chǔ)。

“我們相信 AI 的未來前景廣闊，而這個未來將由 Arm 及其合作伙伴共同打造，包括我們在中國市場的重要合作伙伴?！盋hris Bergey說。