來(lái)源:TrendForce集邦咨詢(xún) 根據TrendForce集邦咨詢(xún)研究,NVIDIA Hopper平臺H100于今年第一季短缺情形逐漸紓解,屬同平臺的新品H200于第二季后逐漸放量,第三季新平臺Blackwell將進(jìn)入市場(chǎng),第四季擴展到數據中心客戶(hù)。但今年應仍以Hopper平臺為主,包含H100、H200等產(chǎn)品線(xiàn);根據供應鏈導入Blackwell平臺進(jìn)度,預計今年第四季才會(huì )開(kāi)始放量,占整體高階GPU比例將低于10%。 TrendForce集邦咨詢(xún)表示,屬Blackwell平臺的B100等,其裸晶尺寸(die size)是既有H100翻倍,估計臺積電(TSMC)2024年CoWos總產(chǎn)能年增來(lái)到150%,隨著(zhù)2025年成為主流后,CoWos產(chǎn)能年增率將達7成,其中NVIDIA需求占比近半。HBM方面,隨著(zhù)NVIDIA GPU平臺推進(jìn),H100主搭載80GB的HBM3,至2025年的B200將達搭載288GB的HBM3e,單顆搭載容量將近3~4倍成長(cháng)。而據三大原廠(chǎng)目前擴展規劃,2025年HBM生產(chǎn)量預期也將翻倍。 ![]() Microsoft、Meta、AWS將首波采用GB200 據TrendForce集邦咨詢(xún)研究,以云端服務(wù)業(yè)者(CSP)導入現況來(lái)看,以Microsoft、Meta、AWS較為積極,預期2025年GB200方案合計出貨量有機會(huì )達逾30,000柜,Google則可能傾向優(yōu)先擴大自家TPU AI基礎設施。Blackwell平臺之所以備受市場(chǎng)期待,主要是有別于HGX或MGX單臺AI服務(wù)器,改推整柜式型態(tài),整合自家CPU、GPU、NVLink及InfiniBand等高速網(wǎng)通技術(shù)。其中,GB200又分為NVL36及NVL72,每柜分別搭載達36及72顆GPU,而NVL72將為NVIDIA主推組態(tài),但因其設計較為復雜,估計2024年底將以NVL36先導入前期試練,以求快速進(jìn)入市場(chǎng)(Time to Market)。 2024年AI服務(wù)器需求持續擴大 據NVIDIA FY1Q25資料來(lái)看,企業(yè)客戶(hù)、Tier-2數據中心客群需求明顯提升。TrendForce集邦咨詢(xún)表示,受限于2023年CoWoS及HBM供應不及,如NVIDIA優(yōu)先將其高階GPU提供給大型云端服務(wù)業(yè)者(Hyper CSP),以全球高階AI server整體市場(chǎng)來(lái)看,2023年CSP合計對AI服務(wù)器的需求量占比約65%。 自2024年上半年隨GPU供貨短缺獲緩解后,今年來(lái)自服務(wù)器品牌商如Dell、HPE的需求占比將擴大至19%;其他包含各地區Tier-2數據中心如CoreWeave、Tesla等,或各國超算中心項目等,合計需求占比將提高至31%,主因AI訓練或應用過(guò)程中,可能涉及數據隱私安全等議題,預期未來(lái)此塊市場(chǎng)也將扮演驅動(dòng)AI服務(wù)器出貨成長(cháng)的關(guān)鍵。 |