|
作者：Rambus IP核產(chǎn)品營(yíng)銷(xiāo)高級總監Frank Ferro 隨著(zhù)數據中心對人工智能和機器學(xué)習（AI/ML）的利用率越來(lái)越高，大量數據不斷被產(chǎn)生和消耗，這給數據中心快速而高效地存儲、移動(dòng)和分析數據提出了巨大挑戰。 而中國的情況尤其如此：隨著(zhù)中國不斷推進(jìn)人工智能的發(fā)展，對高性能處理的需求持續增長(cháng)，而傳統數據中心已然成為必須解決的瓶頸。為應對這一挑戰，中國公布了《新型數據中心發(fā)展三年行動(dòng)計劃》。與傳統數據中心相比，新型數據中心具有高技術(shù)、高算力、高能效和高安全的特征。 在市場(chǎng)需求和產(chǎn)業(yè)政策支持的雙驅動(dòng)下，數據中心服務(wù)器迫切需要更大的內存帶寬和容量，以更好地支持AI/ML的持續發(fā)展。 自2013年推出以來(lái)，高帶寬存儲器（HBM）日益被視為將數據中心服務(wù)器和AI加速器的性能提升至新高度的理想方式之一。HBM是一種基于3D堆棧工藝的高性能SDRAM架構，能夠實(shí)現巨大的內存帶寬。 2018年年底，JEDEC固態(tài)技術(shù)協(xié)會(huì )宣布了HBM2E標準，以支持更高的帶寬和容量。HBM2E每個(gè)引腳的傳輸速率上升到3.6Gbps，可以實(shí)現每個(gè)堆棧461GB/s的內存帶寬。此外，HBM2E最高支持12個(gè)DRAM的堆棧高度，并且單堆棧內存容量高達24GB。 在HBM2E中，四個(gè)連接到處理器的堆棧將提供超過(guò)1.8TB/s的帶寬。通過(guò)內存的3D堆疊，HBM2E可以在極小的空間內實(shí)現高帶寬和高容量。在此基礎上，下一代的HBM3內存將數據傳輸速率和容量推向了新的高度。 Rambus HBM3內存子系統針對高帶寬和低延遲進(jìn)行了專(zhuān)門(mén)優(yōu)化，能夠以緊湊的架構和高效能的封裝提供最佳的性能和靈活性。這一解決方案由完全集成的PHY和數字控制器組成，包含完整的HBM3內存子系統。 相比HBM2E，Rambus HBM3內存子系統將最大數據傳輸速率提高了一倍以上，達到每個(gè)數據引腳8.4Gbps（當此速度下的DRAM可用時(shí)）。該系統接口具有16個(gè)獨立通道，每個(gè)通道包含64位，總數據寬度為1024位。在最大數據傳輸速率下，可以提供1075.2GB/s的總接口帶寬，換言之，帶寬超過(guò)1TB/s。 
這一內存子系統專(zhuān)為2.5D架構設計，帶有一個(gè)內插器，以在SoC上的3D DRAM堆棧和PHY之間傳輸信號。同時(shí)，這種信號密度和堆疊架構的組合還要求特殊的設計考量。為提高設計的易實(shí)施性和靈活性，Rambus對整個(gè)2.5D架構的內存子系統進(jìn)行了完整的信號和電源完整性分析，以確保滿(mǎn)足所有的信號、電源和熱量要求。除此之外，Rambus還提供中介層參考設計。 憑借在高速信號處理方面逾30年的專(zhuān)業(yè)知識，以及在2.5D內存系統架構設計和實(shí)現方面的深厚積淀，Rambus正引領(lǐng)HBM的演變。Rambus提供了業(yè)界最快的HBM2E內存子系統；如今通過(guò)數據傳輸速率高達8.4Gbps的HBM3內存子系統，Rambus更進(jìn)一步地提高了HBM的帶寬標準。 |
