Graphcore 今日正式發(fā)布全新IPU系統產(chǎn)品——Bow系列。Bow Pod系統產(chǎn)品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計算機系統的核心。與上代產(chǎn)品相比，它可為真實(shí)世界的AI應用提供高達40%的性能提升和16%的電源效率提升，同時(shí)價(jià)格保持不變，且無(wú)需更改現有代碼。Bow的命名來(lái)源于倫敦市的一處地名。
Bow IPU處理器
Bow-2000 計算刀片 同時(shí)，Graphcore將于2024年交付全球首臺超級智能計算機—— Good Computer（古德計算機）。Graphcore正在開(kāi)發(fā)新一代IPU技術(shù)，為這款Good Computer提供超過(guò)10 Exa-Flops的AI浮點(diǎn)計算；最高可達4PB的存儲，帶寬超過(guò)10PB/秒；支持超過(guò)500萬(wàn)億參數的AI模型；3D Wafer-on-Wafer邏輯棧；同時(shí)獲得Poplar® SDK的完全支持。該計算機預計價(jià)格在100萬(wàn)美元至1.5億美元（取決于配置）。這款超未來(lái)的智能計算機之所以被命名為Good，一方面是Graphcore致力于打造“好”的計算機，一方面是向計算機科學(xué)家先驅Jack Good（杰克·古德）致敬。 Graphcore大中華區總裁兼全球首席營(yíng)收官盧濤表示：“隨著(zhù)AI計算市場(chǎng)的整體快速發(fā)展，客戶(hù)需要兼顧性能、效率和可靠性的計算機系統。我們發(fā)布新一代IPU，正是為了支持全球技術(shù)開(kāi)發(fā)者和創(chuàng )新者在A(yíng)I計算領(lǐng)域取得新的技術(shù)突破，實(shí)現高質(zhì)量發(fā)展。我們希望不斷開(kāi)拓IPU在中國的AI應用場(chǎng)景，通過(guò)IPU賦能高效AI計算，支持中國創(chuàng )新者不斷推進(jìn)機器智能的邊界�！� Bow Pod的出色性能 旗艦產(chǎn)品Bow Pod256提供超過(guò)89 PetaFLOPS的AI計算，而超大規模Bow Pod1024可提供350 PetaFLOPS的AI計算，支持機器學(xué)習工程師在A(yíng)I模型規模呈指數增長(cháng)的情況下仍可領(lǐng)先一步，在機器智能領(lǐng)域取得新的技術(shù)突破。 Bow Pod旨在為各種AI應用大規模提供真實(shí)世界的性能，從用于自然語(yǔ)言處理的GPT和BERT到用于計算機視覺(jué)的EfficientNet和ResNet，再到圖神經(jīng)網(wǎng)絡(luò )和許多其他應用。 • 在與配有Bow Pod系統的Mk2 IPU-Pod系統相同的峰值功率范圍內，客戶(hù)發(fā)現各種AI應用的性能提升高達40%。
• 對于最先進(jìn)的計算機視覺(jué)模型EfficientNet，Bow Pod16性能比同類(lèi)Nvidia DGX A100系統提升5倍以上，而價(jià)格只有一半，因而總體擁有成本提升高達10倍。
• 與上代產(chǎn)品相比，除了40%的性能提升，Bow Pod系統還可以大幅提高電源效率。經(jīng)過(guò)一系列實(shí)際應用測試表明，Bow Pod的每瓦性能最高可提升16%。
Wafer-on-Wafer創(chuàng )新技術(shù) Bow Pod系統核心的Bow IPU處理器采用了全球首項3D半導體技術(shù)，從而支持Bow Pod 系統實(shí)現了巨大的性能提升和更高的電源效率。Wafer-on-Wafer 3D技術(shù)由Graphcore與臺積電合作開(kāi)發(fā)。Wafer-on-Wafer技術(shù)有潛力在硅片之間提供更高的帶寬，從而優(yōu)化電源效率，在晶圓級別提升Colossus架構的功率。 Bow IPU中的Wafer-on-Wafer，兩個(gè)晶圓結合在一起，產(chǎn)生一個(gè)新的3D裸片。其中一個(gè)晶圓用于A(yíng)I處理，在架構上與GC200 IPU處理器兼容，擁有1472個(gè)獨立的IPU-Core tile，能夠運行超過(guò)8800個(gè)線(xiàn)程，具有900MB的處理器內存儲，而第二個(gè)晶圓擁有供電裸片。 通過(guò)在供電裸片中添加深溝槽電容器，位置在處理內核和存儲旁，我們能夠更高效地供電，從而實(shí)現350 TeraFLOPS的AI計算，實(shí)現40%的性能提升。通過(guò)與臺積電緊密合作，我們充分驗證了整套技術(shù)，包括背面硅通孔（BTSV）和Wafer-on-Wafer（WoW）混合鍵合中的多項突破性技術(shù)。 作為Bow Pod系統的組成部分，最新Bow-2000 IPU Machine采用了與第二代IPU-M2000 machine同樣強大的系統架構，但現在配備了四個(gè)強大的Bow IPU處理器，可提供1.4 PetaFLOPS的AI計算。 Bow-2000可以完全向后兼容現有的IPU-POD系統，其高速、低時(shí)延的IPU結構和靈活的1U外形尺寸保持不變。Bow-2000是整個(gè)Bow Pod系列的基礎組成部分。Bow-2000可安裝在戴爾、Atos、Supermicro、浪潮和聯(lián)想等領(lǐng)先品牌的主機服務(wù)器上，從而組成Bow Pod系統。整個(gè)Bow Pod系列包括Bow Pod16（4臺Bow-2000和一臺主機服務(wù)器）、Bow Pod32（8臺Bow-2000和一臺主機服務(wù)器）、Bow Pod64以及更大的旗艦系統Bow Pod256和Bow Pod1024。
最新Bow Pod系統現已上市，并開(kāi)始在全球范圍內發(fā)貨。 |
