|
當前，一個(gè)令人振奮的趨勢是，人工智能 (AI) 應用和功能正在各種邊緣側設備上快速擴展和普及。隨著(zhù) AI 的不斷發(fā)展和進(jìn)步，對于 AI 研究員、數據科學(xué)家、開(kāi)發(fā)者和學(xué)生而言，獲取高性能算力以開(kāi)發(fā)或運行新的模型（如語(yǔ)言模型、視覺(jué)模型或多模態(tài)模型）變得至關(guān)重要。鑒于 AI 創(chuàng )新的步伐空前加快，行業(yè)需要確保開(kāi)發(fā)者在云端及邊緣側均能獲得高性能算力，從而直接獲得更多的新功能。 為開(kāi)發(fā)者實(shí)現唾手可得的突破性 AI 性能 在今年的國際消費類(lèi)電子產(chǎn)品展覽會(huì ) (CES) 上，NVIDIA 創(chuàng )始人兼首席執行官黃仁勛在主題演講中發(fā)布了個(gè)人 AI 超級計算機 NVIDIA Project DIGITS，朝著(zhù) “隨處可開(kāi)發(fā)和部署 AI” 的愿景又邁近了重要一步�；� Linux 系統的 Project DIGITS 搭載了 Arm CPU 核心，使每位 AI 開(kāi)發(fā)者都能擁有一套高性能的 AI 桌面系統。 
圖：由 Arm 驅動(dòng)的 NVIDIA Project DIGITS 為數百萬(wàn)開(kāi)發(fā)者帶來(lái)高性能 AI 算力 Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超級芯片，搭載 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA core和第五代 Tensor Cores，通過(guò) NVIDIA NVLink-C2C 片間互連技術(shù)實(shí)現連接，并配有 128GB 的統一的高一致性?xún)却�。NVIDIA Grace CPU 搭載了先進(jìn)的高性能 Arm Cortex-X 和 Cortex-A 技術(shù)，配置 10 個(gè) Cortex-X925 和 10 個(gè) Cortex-A725 CPU 核心。NVIDIA GB10 超級芯片能以 FP4 計算精度提供高達 1 PFLOPS (1,000 TFLOPs) 的 AI 性能，使開(kāi)發(fā)者能對 AI 大模型進(jìn)行原型設計、微調和推理，同時(shí)還能與云端或數據中心環(huán)境無(wú)縫對接，實(shí)現協(xié)同工作。 Arm 計算平臺的價(jià)值 借助無(wú)處不在的 Arm 計算平臺，新的 AI 模型和應用能更高效、更快速地在邊緣側運行。在消費級技術(shù)市場(chǎng)，不論是用于 Project DIGITS 的最新 Arm CPU，或是集成在 Arm 終端計算子系統 (CSS) 的一部分，Arm CPU 技術(shù)已成為市場(chǎng)中高性能邊緣側設備的核心驅動(dòng)力。這些 CPU 技術(shù)經(jīng)過(guò)精心優(yōu)化，可在各種實(shí)際用例和工作負載中實(shí)現最大性能和最高效率。 Arm 計算平臺還兼具靈活性，可針對不同的 AI 應用場(chǎng)景使用不同的計算引擎。在 NVIDIA Project DIGITS 中，基于 Arm 架構的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相協(xié)作，使開(kāi)發(fā)者能夠將這些組件用于各種工作負載。這種異構計算策略對于最大化 AI 性能，同時(shí)管理內存利用率和功耗至關(guān)重要。 NVIDIA SoC 產(chǎn)品副總裁 Ashish Karandikar 表示：“我們與 Arm 在 GB10 超級芯片的合作上，巧妙地結合了 NVIDIA 的 AI 專(zhuān)業(yè)知識與 Arm 可擴展的計算平臺，實(shí)現了出眾的性能和能效，將推動(dòng)下一代 AI 創(chuàng )新。隨著(zhù) Project DIGITS 的推出，每位 AI 開(kāi)發(fā)者和研究員都將能擁有一臺功能強大的超級計算機�！� 釋放軟件創(chuàng )新的潛能 對于開(kāi)發(fā)者而言，擁有一個(gè)完全集成的軟硬件 AI 平臺至關(guān)重要。Project DIGITS使用開(kāi)源 Linux 操作系統，用戶(hù)可以訪(fǎng)問(wèn)資源豐富的 NVIDIA AI 軟件庫，包括 NVIDIA NGC 目錄和 NVIDIA 開(kāi)發(fā)者門(mén)戶(hù)網(wǎng)站中提供的軟件開(kāi)發(fā)套件、編排工具、框架和 AI 模型，以加快生成式 AI 的工作流程。 Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在數據中心的合作，為數據中心和邊緣側設備環(huán)境提供一致的平臺架構，使開(kāi)發(fā)者能夠無(wú)縫地使用同一套工具進(jìn)行 AI 應用開(kāi)發(fā)。此外，Arm 不斷積極推動(dòng)開(kāi)源開(kāi)發(fā)者社區的重要工作，旨在開(kāi)發(fā)出適配的軟件，加速AI 的全面部署。目前，全球已有超過(guò) 2,000 萬(wàn)軟件開(kāi)發(fā)者在 Arm 計算平臺上構建自己的應用程序，共同推動(dòng)著(zhù)一個(gè)快速創(chuàng )新、日益壯大的開(kāi)源社區。 賦予高性能 AI 算力的理想平臺 Arm 作為當前和未來(lái) AI 領(lǐng)域應用最廣泛的計算平臺，自然而然地成為了 Project DIGITS 中 GB10 超級芯片的理想平臺。Project DIGITS是一個(gè)功能強大的個(gè)人計算機桌面平臺，能夠運行高達 200B 參數的 AI 大模型，讓原本的不可能變?yōu)榭赡�。這種對 AI 生態(tài)系統的廣泛影響力，為全球數百萬(wàn)開(kāi)發(fā)者帶來(lái)了靈活、高性能且高能效的 AI 功能。通過(guò)與 NVIDIA 及 Arm 強大的軟件生態(tài)系統緊密的合作，我們翹首以待下一代極具創(chuàng )新的 AI 應用的問(wèn)世。 |
