|
來(lái)源：半導體行業(yè)觀(guān)察 如果要評選即將過(guò)去的2023年的半導體關(guān)鍵詞，GPU必然要首先提及的。因為在ChatGPT的推動(dòng)下，GPU正在過(guò)去一年里完成了完美的逆襲，并推動(dòng)英偉達成為了萬(wàn)億美元的半導體企業(yè)，也使得他們在今年有望成為全球第一的半導體供應商。需要提一句的是，這是一個(gè)在過(guò)去十多年里幾乎都是由英特爾把持的位置，英偉達的登頂，足以見(jiàn)證GPU的魅力。 除此以外，HBM（High Band Memory）也是2023不得不提的一個(gè)重點(diǎn)。因為存儲市場(chǎng)的千年老二SK海力士憑借這個(gè)技術(shù)和產(chǎn)品在這個(gè)領(lǐng)域實(shí)現了對三星的完勝。同時(shí)還為未來(lái)的繼續發(fā)展掙下了足夠的籌碼。 市場(chǎng)分析機構Omdia也預計，在人工智能大模型的推動(dòng)下，未來(lái)幾年，HBM的需求將繼續超過(guò)供應。他們提供的數據顯示，從2023年到2027年，DRAM市場(chǎng)收入的年增長(cháng)率預計為21%，而HBM市場(chǎng)預計將飆升52%。HBM在DRAM市場(chǎng)收入中的份額預計也將從今年的不超過(guò)10%增長(cháng)到2027年將接近20%。 HBM，恰逢其時(shí) 其實(shí)HBM并不是一個(gè)新技術(shù)。 從維基百科可以看到，早在2008年，AMD就開(kāi)始著(zhù)手研發(fā)高帶寬存儲器來(lái)解決日益增長(cháng)的能源使用及計算機內存的形狀因數。其中，AMD高級研究員Bryan Black解決了裸晶堆疊問(wèn)題。AMD還從內存行業(yè)（SK海力士）、中介層行業(yè)（聯(lián)華電子）及封裝行業(yè)（日月光半導體）的合作伙伴中獲得了幫助，讓高帶寬存儲器從設想變成現實(shí)。 到了2013年10月，JEDEC就將高帶寬存儲器正式采納為業(yè)界標準。2015年，SK海力士在韓國利川市的工廠(chǎng)正式開(kāi)始量產(chǎn)HBM。直到人工智能、生成式人工智能的火熱，市場(chǎng)對訓練數據的需求量暴增，于是英偉達等廠(chǎng)商就將HBM引入到相關(guān)產(chǎn)品，從而引爆了HBM的使用潮。 從相關(guān)報道我們也能看到，自2012年以來(lái)，大規模的AI訓練所使用的數據集的計算量是以每年10倍的速度在增長(cháng)。以推出大家所熟知的ChatGPT的OpenAI公司為例，在2022年11月推出的ChatGPT版本中，他們使用了1750億個(gè)參數。到了今年3月的版本中，他們使用的參數則是達到1.5萬(wàn)億個(gè)。 之所以發(fā)生這樣的轉變，其中背后的原因有以下三點(diǎn)：第一，AI模型變得日益復雜了；第二，有大量的數據在線(xiàn)被生成，而且可以被使用在A(yíng)I訓練過(guò)程中去；第三，這些人工智能的應用對于準確性和穩健性的期望也在持續提升。以上這些需求轉化為對內存的需求，實(shí)際上就意味著(zhù)需要更高帶寬和更高容量。 這就帶來(lái)了HBM的第二春。 
據Rambus 接口IP產(chǎn)品管理和營(yíng)銷(xiāo)副總裁 Joe Salvador先生介紹，高帶寬內存（HBM）包含了中介層，以及處理器、內存堆棧。這就意味著(zhù)我們可以通過(guò)HBM帶來(lái)非常高的帶寬，而且還有非常高的能效解決方案，及低延遲。正是由于以上的這些原因，HBM已經(jīng)成為了目前首選的AI訓練硬件。
如上圖所示，在過(guò)去多年的發(fā)展中，HBM進(jìn)行了多代的更新，不斷地提升速度，以滿(mǎn)足終端市場(chǎng)的需求。在這背后，就需要各種各樣的IP來(lái)給HBM提供支持。當中，內存控制器IP無(wú)疑是其中一個(gè)重中之重。 全球領(lǐng)先的IP供應商Rambus正是當中的一個(gè)重要供應商。 Rambus，深耕其中 據Rambus大中華區總經(jīng)理蘇雷先生介紹，成立于上個(gè)世紀的九十年代Rambus距現在已經(jīng)有33年的歷史。公司的主要業(yè)務(wù)包括了基礎專(zhuān)業(yè)授權、半導體IP授權和芯片業(yè)務(wù)。其中半導體IP又主要分為接口IP和安全IP。
首先看接口IP方面，Rambus大部分的產(chǎn)品都是集中供貨給數據中心市場(chǎng)以及人工智能和邊緣計算。具體而言，在內存控制器方面，Rambus所支持的內存類(lèi)型包括了DDR、LPDDR、GDDR以及HBM；在接口IP所提供的互聯(lián)控制器，可以支持CXL、PCIe以及MIPI；另外，Rambus提供視頻壓縮的IP，可以應用在MIPI以及DP（DisplayPort）接口。
在安全IP產(chǎn)品組合方面，Rambus能提供的安全IP解決方案組合也是業(yè)內最廣泛的。
具體到HBM方面，Rambus方面表示，基于公司多去多年積累涵括的HBM內存、GDDR內存、LPDDR內存以及DDR內存在內的多年控制器設計經(jīng)驗，Rambus所設計出來(lái)的內存控制器可以做到性能高、功耗低，而且對于客戶(hù)來(lái)說(shuō)成本也相對較低。與此同時(shí)，Rambus也有多年跟主流內存廠(chǎng)商合作的經(jīng)驗，可以把后者的內存組件納入到Rambus的兼容性、以及相關(guān)的性能測試環(huán)節當中來(lái)去進(jìn)行相應的驗證。 “我們在進(jìn)行相應架構設計的時(shí)候還留足了一定自定義的配置空間，這樣使得客戶(hù)在面對不同需求的時(shí)候，可以根據需求來(lái)選擇相應的控制器�！盝oe Salvador說(shuō)。在他看來(lái)，這些可調節的配置正是Rambus在這個(gè)領(lǐng)域建立起的難以跨越的門(mén)檻。 在這些雄厚實(shí)力的支持下，Rambus率先推出了9.6 Gbps HBM3內存控制器IP。Rambus方面表示，與HBM3 Gen1 6.4 Gbps 的數據速率，Rambus HBM3 內存控制器的數據速率提高了 50%，總內存吞吐量超過(guò) 1.2 TB/s，適用于推薦系統的訓練、生成式 AI 以及其他要求苛刻的數據中心工作負載。
Rambus進(jìn)一步表示，HBM3控制器不僅僅作為獨立的產(chǎn)品推出，公司還提供了一整套完整的經(jīng)過(guò)驗證的解決方案，能夠跟市面上目前比較常見(jiàn)的HBM3以及相關(guān)的內存模組進(jìn)行匹配，然后完整的得以應用。據介紹，公司目前已經(jīng)跟SK海力士、美光、三星完成了一整套的測試。 “Rambus HBM相關(guān)的技術(shù)和控制器IP一直都是業(yè)內領(lǐng)先的，可以跟客戶(hù)所選擇的PHY進(jìn)行很好的結合。而且都是能夠通過(guò)大量的測試和驗證，盡可能都保證一次流片成功，這對于客戶(hù)來(lái)說(shuō)是很大的價(jià)值�！盝oe Salvador接著(zhù)說(shuō)。
除了領(lǐng)先的產(chǎn)品以外，Rambus還有著(zhù)非常強大的技術(shù)支持，能在客戶(hù)芯片點(diǎn)亮的時(shí)候到現場(chǎng)進(jìn)行支持，幫助客戶(hù)。如蘇雷所說(shuō)，憑借Rambus多年扎實(shí)的技術(shù)基礎和客戶(hù)經(jīng)驗，可以避免客戶(hù)可能遇到的一些技術(shù)困難，幫助他們的產(chǎn)品更早地面市�！斑@個(gè)對很多芯片公司非常重要，特別是AI芯片公司，很看重產(chǎn)品的時(shí)間。這也是我們公司的控制器IP產(chǎn)品在市場(chǎng)上處于領(lǐng)先位置非常重要的一個(gè)原因�！碧K雷強調。 Joe Salvador則重申：“Rambus多年以來(lái)所構建的測試環(huán)境和驗證的環(huán)節，都是跟許多的物理層提供商的合作伙伴共同去搭建的。這也就意味著(zhù)我們的控制器和物理層結合之后，能夠很好地集成在一起保持兼容，從而使得客戶(hù)的子系統能夠放心地去確保有良好的作用，很容易就獲得產(chǎn)品的成功�！� |
