|
Arm 控股有限公司（納斯達克股票代碼：ARM，以下簡(jiǎn)稱(chēng)“Arm”）今日發(fā)布 Armv9 邊緣人工智能 (AI) 計算平臺，該平臺以全新的 Arm Cortex-A320 CPU 和領(lǐng)先的邊緣 AI 加速器 Arm Ethos-U85 NPU 為核心，可支持運行超 10 億參數的端側 AI 模型 Arm 高級副總裁兼物聯(lián)網(wǎng)事業(yè)部總經(jīng)理 Paul Williamson 表示：“AI 的革新已不再局限于云端。隨著(zhù)世界的互聯(lián)和智能化水平的日益提升，從智慧城市到工業(yè)自動(dòng)化，在邊緣側處理 AI 工作負載不僅帶來(lái)顯著(zhù)的優(yōu)勢，其必要性更是不可或缺。專(zhuān)為物聯(lián)網(wǎng)打造的 Armv9 邊緣 AI 計算平臺的推出，標志著(zhù)這一發(fā)展趨勢邁入了重要的里程碑�！� Armv9 邊緣 AI 計算平臺——在邊緣集成效率、安全和智能 OEM 廠(chǎng)商正面臨著(zhù)前所未有的壓力，迫切需要快速推出解決方案，以應對物聯(lián)網(wǎng)應用不斷攀升的計算需求，這些需求包括自動(dòng)駕駛車(chē)輛在工廠(chǎng)環(huán)境中的精準導航、智能攝像頭通過(guò)軟件升級靈活調整功能，以及構建能夠提供更自然 AI 交互體驗的人機界面。 為了快速創(chuàng )新和擴展，OEM 廠(chǎng)商需要在合適的位置靈活執行 AI 工作負載，以實(shí)現更強大的安全性和更高的軟件靈活性，Armv9 技術(shù)正是能在大規模應用中滿(mǎn)足這些需求的理想之選。Arm 此次發(fā)布的計算平臺集成了全新的超高能效 Armv9 CPU——Cortex-A320 和支持 Transformer 算子網(wǎng)絡(luò )的 Ethos-U85 NPU，打造出全球首個(gè)專(zhuān)為物聯(lián)網(wǎng)優(yōu)化的 Armv9 邊緣 AI 計算平臺。相較于去年推出的基于 Cortex-M85 的平臺，新的邊緣 AI 計算平臺的機器學(xué)習 (ML) 性能提高了八倍。 Arm 技術(shù)的廣泛應用，使得合作伙伴現在能夠在從云端到邊緣側的各種計算場(chǎng)景中部署強大的 Armv9 技術(shù)。從授權該技術(shù)以構建 SoC 芯片的合作伙伴，到構建下一代設備的 ODM 和 OEM 廠(chǎng)商，該平臺受到了包括亞馬遜云科技 (AWS)、西門(mén)子、瑞薩電子、研華科技和 Eurotech 在內的多家業(yè)界領(lǐng)先合作伙伴的支持。 全新 Cortex-A320 為下一代智能物聯(lián)網(wǎng)設備奠定安全基礎 新型邊緣 AI 計算平臺的推出標志著(zhù)邊緣計算發(fā)展的重要里程碑。Cortex-A320 為物聯(lián)網(wǎng)帶來(lái)了先進(jìn)的 AI 功能和開(kāi)發(fā)者優(yōu)勢，將 Armv9 架構的功能擴展到高能效設備，并提供全面的軟件支持。 Cortex-A320 充分發(fā)揮了 Armv9 架構的優(yōu)勢，如針對 ML 性能的 SVE2。相較于前代產(chǎn)品 Cortex-A35，Cortex-A320 的 ML 性能提升了十倍，標量性能提升了 30%。 該平臺所采用的 Armv9.2 架構還為最小的 Cortex-A 設備帶來(lái)了高級的安全功能，例如指針驗證 (PAC)、分支目標識別 (BTI) 和內存標記擴展 (MTE)。這些功能至關(guān)重要，因為邊緣設備通常在暴露的環(huán)境中運行并處理敏感數據。 隨著(zhù)邊緣 AI 在 Arm 平臺上持續集成，這一全新產(chǎn)品的加入使 Arm 現已能為物聯(lián)網(wǎng)提供最為先進(jìn)的 Armv9 Cortex 處理器系列，覆蓋從極致性能到成本和能效受限的設備。 將 Arm Kleidi 擴展到物聯(lián)網(wǎng) 邊緣 AI 普及面臨的最主要障礙之一是軟件開(kāi)發(fā)和部署的復雜性，這正是 Armv9 邊緣 AI 計算平臺軟件生態(tài)系統發(fā)揮優(yōu)勢的關(guān)鍵所在。Arm 將 Arm Kleidi 擴展到物聯(lián)網(wǎng)，這是一套面向 AI 框架開(kāi)發(fā)者的計算庫，旨在優(yōu)化基于 Arm CPU 的 AI 和 ML 工作負載，無(wú)需開(kāi)發(fā)者額外操作。KleidiAI 已集成到常見(jiàn)的物聯(lián)網(wǎng) AI 框架中，如 Llama.cpp 和 ExecuTorch 或 LiteRT（通過(guò) XNNPACK），加速了 Meta Llama 3 和 Phi-3 等關(guān)鍵模型的性能。例如，在 Llama.cpp 上運行微軟的 Tiny Stories 數據集時(shí)，KleidiAI 為新的 Cortex-A320 帶來(lái)了高達 70% 的性能提升。 這些提升至關(guān)重要，因為在當今快節奏的技術(shù)環(huán)境中，產(chǎn)品的上市速度往往決定其成敗。新的邊緣 AI 計算平臺確保了與更高性能 Cortex-A 處理器在軟件層面的無(wú)縫兼容。這種可擴展性使開(kāi)發(fā)者能夠打造可隨需求變化而靈活調整的解決方案。借助龐大的 Armv9 生態(tài)系統，以及與 Linux 等功能豐富的操作系統和 Zephyr 等實(shí)時(shí)操作系統的兼容性，開(kāi)發(fā)者擁有了前所未有的靈活性。他們可以充分利用現有的工具和知識，以及軟件復用的優(yōu)勢，從而加快產(chǎn)品上市時(shí)間，并降低總體擁有成本。全球范圍內有 2,000 多萬(wàn)活躍的 Arm 開(kāi)發(fā)者，這為未來(lái)的技術(shù)創(chuàng )新提供了巨大潛力。 展望未來(lái) 展望未來(lái)，顯然 AI 的未來(lái)趨勢將轉向邊緣，而全新 Arm 邊緣 AI 計算平臺將成為新一輪物聯(lián)網(wǎng)創(chuàng )新的催化劑。Armv9 架構的特性、先進(jìn)的 AI 功能和全面軟件支持的結合，為 OEM 廠(chǎng)商和開(kāi)發(fā)者創(chuàng )造了新的可能性。 該平臺能夠支持基于智能體的 AI 應用上運行經(jīng)過(guò)調優(yōu)的大語(yǔ)言模型 (LLM) 和小語(yǔ)言模型 (SLM)，從而開(kāi)辟全新類(lèi)別的邊緣應用場(chǎng)景。在未來(lái)的場(chǎng)景中，智能決策將更接近數據采集源頭，這不僅能顯著(zhù)減少延遲，還能有效提升隱私保護水平。 這不僅僅是一次漸進(jìn)式的進(jìn)步，它代表著(zhù)行業(yè)對邊緣計算和 AI 處理方式的根本性變革。這是行業(yè)首次迎來(lái)專(zhuān)為物聯(lián)網(wǎng)應用優(yōu)化的 Armv9 CPU，將超高能效與先進(jìn) AI 能力結合，實(shí)現了前所未有的突破。 |
