數據中心當務(wù)之急的三件事是什么?加速!加速!加速!

發(fā)布時(shí)間:2020-9-14 15:54    發(fā)布者:eechina
關(guān)鍵詞: 數據中心 , FPGA
不久前,一位朋友跟筆者講了這樣一個(gè)故事:去年底,曾有人問(wèn)他為什么說(shuō)賽靈思Xilinx)是百度這樣的互聯(lián)網(wǎng)公司的“爸爸”?他表示,起初還真不知道如何回答這個(gè)問(wèn)題。恰好有一場(chǎng)賽靈思的線(xiàn)下活動(dòng),他們就一起來(lái)到活動(dòng)現場(chǎng)。在親眼目睹賽靈思展示的數據中心加速方案后,尤其是看到服務(wù)器中因插入賽靈思那張紅色的Alveo加速器卡,數據處理能力立刻有了驚人的提升,他們頓時(shí)有了自己的答案。

我們知道,所謂的萬(wàn)物互聯(lián),就是無(wú)數的電子設備與互聯(lián)網(wǎng)進(jìn)行連接,從而創(chuàng )造一個(gè)魔幻的數字世界,與此同時(shí),也產(chǎn)生了海量的數據。根據IDC的預測,從2018年至2025年,全球的數據增長(cháng)量達到5倍以上,將從2018年的32 ZB增至2025年的175 ZB。中國將在2025年以48.6ZB的數據量及27.8%的占比成為全球最大的數據匯集地。然而,這些數據的分析和使用必須借助數據中心強大的計算平臺來(lái)完成,對數據中心而言,這是難得的機遇,更是前所未有的挑戰。


圖1 :2010年至2025年全球數據量增長(cháng)情況(圖片來(lái)源:IDC)

數據中心蘊含巨大的市場(chǎng)潛力

現在,企業(yè)和專(zhuān)業(yè)用戶(hù)越來(lái)越意識到從物理和虛擬世界收集到的大量數據蘊含的價(jià)值。隨著(zhù)數據量繼續呈指數級增長(cháng),對數據分析的需求也將以類(lèi)似的速度增長(cháng)。為此,數據中心必須加速轉型,以達到增加網(wǎng)絡(luò )帶寬,優(yōu)化人工智能等工作負載的目的,同時(shí)還要保證較低的功耗以及提供新服務(wù)的能力。綜合技術(shù)與成本等因素,數據中心加速器有助于顯著(zhù)提高數據中心的性能。

在數據中心加速器市場(chǎng),深度學(xué)習訓練(Deep Learning Training)在應用方面占有重要份額。根據BMRC的預測,到2025年,深度學(xué)習訓練市場(chǎng)將達到233.8億美元,2018年和2025年復合年增長(cháng)率為40.16%。數據中心又如何支持這一巨大需求呢?

在回答這個(gè)問(wèn)題之前,我們先來(lái)看一看各大咨詢(xún)機構對數據中心發(fā)展潛力的研判。

根據調研機構Gartner的分析結果,預計全球公有云服務(wù)市場(chǎng)在2020年將增長(cháng)17%,達到2664億美元。其中,軟件即服務(wù)(SaaS)仍將是最大的細分市場(chǎng),預計該市場(chǎng)將在2020年增長(cháng)至1160億美元。第二大市場(chǎng)則是基礎設施即服務(wù)(IaaS),2020年的市場(chǎng)規模將達到500億美元。


圖2:全球公共云服務(wù)收入預測(單位:十億美元)(圖片來(lái)源:Gartner)

根據調研機構CBRE的調查數據,5G和邊緣計算部署將在2020年整合到數據中心,可能會(huì )導致二級和三級數據中心市場(chǎng)的需求上升。

根據思科公司的調查數據,到2021年,全球云計算數據中心流量可能達到每年20.6 ZB,預計全球將有628個(gè)超大規模數據中心運營(yíng)。

根據調研機構Frost&Sullivan的調查報告,全球互聯(lián)網(wǎng)IP流量預計會(huì )從2016年的6.8 ZB增長(cháng)到2022年的24.6 ZB。不斷增長(cháng)的全球互聯(lián)網(wǎng)和移動(dòng)數據流量導致數據增長(cháng),因此,對數據中心的數據傳輸和存儲需求將明顯增加。

Technavio公司最新發(fā)布的報告顯示,2019~2023年全球數據中心市場(chǎng)規模有望增長(cháng)2844.4億美元,復合年增長(cháng)率將超過(guò)17%。

根據Structure Research公司的調查數據,到2024年,全球托管數據中心市場(chǎng)收入將增加一倍,達到697.6億美元。

據Vertiv公司預測,到2025年,邊緣數據中心將成為該行業(yè)的普遍發(fā)展做法,邊緣計算的站點(diǎn)到2025年將增加三倍。

云計算基礎設施廠(chǎng)商Apcera公司預測,到2025年,全球數據中心轉型市場(chǎng)預計將從2017年的58.6億美元增長(cháng)到159.2億美元,至2026年的預測期內,復合年增長(cháng)率為13.2%。

數據中心硬件加速勢在必行

數據量的爆炸性增長(cháng)和工作負載的復雜性,已經(jīng)超過(guò)了現有數據中心計算平臺的性能。面對如此情形,無(wú)論是公有云、私有云還是混合云,大幅提升數據中心的利用率、性能和能效,降低運營(yíng)成本和總成本,實(shí)現數據中心的轉型升級成為當務(wù)之急。

高性能計算(HPC)領(lǐng)域的專(zhuān)家一直致力于推動(dòng)新平臺的開(kāi)發(fā),通過(guò)異構體系架構實(shí)現硬件加速,將傳統CPU、圖形處理單元(GPU)和現場(chǎng)可編程門(mén)陣列(FPGA)等進(jìn)行靈活組合。隨著(zhù)新一代計算加速器的出現,數據中心在性能和能效上均有了大幅提升。

那么,究竟從何時(shí)開(kāi)始數據中心的服務(wù)器需要增加FPGA、GPU等加速器呢?這要從摩爾定律開(kāi)始講起。

根據摩爾定律,集成電路中每平方英寸的晶體管數量每隔18個(gè)月就會(huì )翻一番。然而到了2020年,業(yè)界關(guān)于摩爾定律即將失效的討論越來(lái)越多。2015年4月,英特爾表示,通過(guò)開(kāi)發(fā)7nm和5nm制程工藝,摩爾定律仍將得以延續。然而,進(jìn)一步減小處理器的尺寸將非常困難,因為這樣做會(huì )減少電子和空穴之間的空間,進(jìn)而出現電流泄漏和過(guò)熱等問(wèn)題,最終導致芯片的性能下降、功耗大、耐久性降低。因此,必須尋找其他替代方案來(lái)提高芯片的計算能力。

按處理器類(lèi)型劃分的數據中心加速器市場(chǎng),目前主要有三種方案,即通過(guò)GPU、FPGA、ASIC來(lái)加速,其中,GPU在數據中心加速器市場(chǎng)的占比較大。英偉達是數據中心GPU加速器市場(chǎng)的主要推動(dòng)者,在數據中心市場(chǎng)與英特爾形成了激烈的競爭。隨著(zhù)摩爾定律的放緩,GPU加速器有望在深度學(xué)習、訓練和推理應用方面取得重大成功。


圖3:英偉達HGX™ A100支持標準化的高性能服務(wù)器(圖片來(lái)源:英偉達)

現在,一個(gè)典型的通用處理器已經(jīng)無(wú)法維持分析應用程序增加的計算復雜度,基于FPGA的異構體系結構使計算密集型和重復性任務(wù)能夠從主CPU上卸載。與其他平臺相比,FPGA可以提供更高的性能,并且具有足夠的適應性,能夠滿(mǎn)足未來(lái)的需求和未來(lái)的算法,進(jìn)而有望成為高效執行數據分析的主要平臺。

為什么看好FPGA加速器?

FPGA(現場(chǎng)可編程門(mén)陣列)是一種集成可重構器件,具有運算速度快、功耗低等優(yōu)點(diǎn),在計算密集型應用中得到廣泛的應用。與GPU和多核CPU相比,FPGA具有更好的能量效率,并且可以達到11x和57x的速度。此外,對于某些類(lèi)型的圖像處理應用,如立體視覺(jué)應用,FPGA可以說(shuō)是非常好的選擇。FPGA的不足也很明顯,比如設計一個(gè)FPGA架構需要很長(cháng)時(shí)間,需要設計人員有較強的軟硬件開(kāi)發(fā)技能。

現在,數據中心在其基礎設施中部署FPGA有兩種主要方法,一種是FPGA與CPU緊密耦合,另一種是FPGA作為獨立組件。

方法一

將FPGA作為協(xié)處理器,FPGA與CPU物理連接在一起,此時(shí)的FPGA既是加速器又是數據中心的一部分。但是,數據中心的FPGA數量受CPU數量的限制,不能作為獨立的計算資源使用。在市場(chǎng)上,已經(jīng)有Amazon提供的集成Xilinx Virtex UltraScale+的EC2 F1實(shí)例。F1實(shí)例易于編程,并且配備了開(kāi)發(fā)、模擬、調試和編譯硬件加速代碼所需的各種資源,包括FPGA Developer AMI,并支持在云上進(jìn)行硬件級開(kāi)發(fā)。對于許多應用程序,使用 F1實(shí)例部署硬件加速都非常有用,可解決需要高帶寬、增強型聯(lián)網(wǎng)和超高計算能力的復雜科學(xué)、工程和業(yè)務(wù)問(wèn)題。按照Amazon的信息,在EC2 F1實(shí)例上運行高性能計算幾乎可以實(shí)現無(wú)限的容量來(lái)擴展基礎設施。與CPU相比,Amazon EC2 F1實(shí)例可將速度提升高達100倍,適用于各種受計算限制的應用程序。

方法二

是將FPGA看作獨立于CPU的單獨組件,FPGA直接連接到網(wǎng)絡(luò )。這種方法將網(wǎng)絡(luò )和應用程序處理耦合在同一個(gè)FPGA器件中。因為應用程序可以獨立于服務(wù)器數量來(lái)擴展FPGA的數量,所以系統的延遲和吞吐量都會(huì )有明顯改善。


圖4:賽靈思Alveo加速器卡大幅提升數據中心部署的標準服務(wù)器性能

在這場(chǎng)基于FPGA加速器的數據中心變革中,賽靈思可謂是一大受益者。該公司自2018年啟動(dòng)數據中心優(yōu)先戰略以來(lái),在2019年就推出了Alveo加速器卡,大幅提升了云端和本地數據中心部署的標準服務(wù)器的性能。Alveo產(chǎn)品系列目前已擴展至Alveo U50、 U200、 U250、 U280四款產(chǎn)品,并已在美國、歐洲和中國市場(chǎng)得到廣泛應用。

目前,中國的浪潮集團已基于主流FPGA芯片,開(kāi)發(fā)出高密度、高性能、易編程的FPGA異構加速運算卡,并且在機器學(xué)習、視頻分析、語(yǔ)音識別、文本搜索等場(chǎng)景得到了很好的落地應用。根據IDC最新數據,浪潮已經(jīng)躋身全球服務(wù)器出貨量前三,中國的AI服務(wù)器市場(chǎng)出貨量第一。在浪潮提供的AI產(chǎn)品和解決方案中,包括全球首款內嵌HBM2高帶寬內部存儲的加速卡、面向視頻監控領(lǐng)域的多通道視頻AI加速卡等都內置了賽靈思的FPGA產(chǎn)品。

結語(yǔ)

隨著(zhù)數據量以指數級增長(cháng),對數據分析的需求也開(kāi)始快度增長(cháng)。原有的硬件和軟件體系結構已經(jīng)無(wú)法滿(mǎn)足數據生成、存儲和分析的需求,“加速”正在成為數據中心的當務(wù)之急。從目前的市場(chǎng)情況看,GPU在數據中心加速器市場(chǎng)占據較大比例,主要面向深度學(xué)習、AI訓練和推理等應用。FPGA以其可配置性、靈活性、并行性和功耗效率,確保了數據處理工作負載的有效和高效加速,進(jìn)而迅速成為眾多互聯(lián)網(wǎng)公司在云計算和AI業(yè)務(wù)上的重要支撐,為云服務(wù)提供了一個(gè)令人信服的替代方案。


文章來(lái)源:貿澤電子
作者:Doctor M
本文地址:http://selenalain.com/thread-602907-1-1.html     【打印本頁(yè)】

本站部分文章為轉載或網(wǎng)友發(fā)布,目的在于傳遞和分享信息,并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和對其真實(shí)性負責;文章版權歸原作者及原出處所有,如涉及作品內容、版權和其它問(wèn)題,我們將根據著(zhù)作權人的要求,第一時(shí)間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

相關(guān)視頻

關(guān)于我們  -  服務(wù)條款  -  使用指南  -  站點(diǎn)地圖  -  友情鏈接  -  聯(lián)系我們
電子工程網(wǎng) © 版權所有   京ICP備16069177號 | 京公網(wǎng)安備11010502021702
快速回復 返回頂部 返回列表
午夜高清国产拍精品福利|亚洲色精品88色婷婷七月丁香|91久久精品无码一区|99久久国语露脸精品|动漫卡通亚洲综合专区48页