英偉達(dá)“溢價(jià)”購(gòu)買(mǎi)存儲(chǔ)芯片，HBM成為“燎原”AI服務(wù)器產(chǎn)業(yè)鏈的星星之火

韓國(guó)存儲(chǔ)芯片巨頭們正在打一場(chǎng)翻身仗。

盡管從最新財(cái)報(bào)來(lái)看，存儲(chǔ)芯片復(fù)蘇未見(jiàn)好轉(zhuǎn)，供應(yīng)過(guò)剩導(dǎo)致?tīng)I(yíng)業(yè)利潤(rùn)大幅下降，但這些存儲(chǔ)芯片巨頭們的股價(jià)均在上周上漲。力挽狂瀾的核心功臣，便是逐漸成為數(shù)據(jù)中心AI訓(xùn)練必備組件的AI相關(guān)內(nèi)存芯片——高帶寬內(nèi)存（HBM）。

因生成式AI開(kāi)發(fā)和商業(yè)化競(jìng)爭(zhēng)加劇，第二季度對(duì)AI相關(guān)內(nèi)存的需求大幅增加。HBM的受關(guān)注程度，在上周SK海力士和三星發(fā)布最新財(cái)報(bào)后舉行的電話會(huì)議期間可見(jiàn)一斑，分析師們就HBM相關(guān)進(jìn)展和后續(xù)規(guī)劃密集發(fā)問(wèn)。

自去年英偉達(dá)發(fā)布世界首款采用HBM3的GPU H100以來(lái)，HBM3及更先進(jìn)HBM芯片的熱度一直居高不下。據(jù)英國(guó)《金融時(shí)報(bào)》援引兩位接近SK海力士的消息人士報(bào)道，英偉達(dá)和AMD要求SK海力士提供尚未量產(chǎn)的下一代HBM3E芯片的樣品。英偉達(dá)已要求SK海力士盡快供應(yīng)HBM3E，并愿意支付“溢價(jià)”。

雖說(shuō)今年縮減開(kāi)支是重頭戲，但存儲(chǔ)芯片巨頭們?cè)贖BM方向的投資仍相當(dāng)舍得——合計(jì)掌控著全球90%HBM芯片市場(chǎng)的兩家韓國(guó)大廠SK海力士和三星均表態(tài)，計(jì)劃明年將HBM芯片產(chǎn)量提高一倍，并為了更好應(yīng)對(duì)HBM不斷增長(zhǎng)的需求，而減少其他類(lèi)別存儲(chǔ)芯片的投資。


HBM3與HBM3e將成為明年市場(chǎng)主流

根據(jù)TrendForce集邦咨詢(xún)調(diào)查顯示，2023年HBM（High Bandwidth Memory）市場(chǎng)主流為HBM2e，包含NVIDIA A100/A800、AMD MI200以及多數(shù)CSPs自研加速芯片皆以此規(guī)格設(shè)計(jì)。同時(shí)，為順應(yīng)AI加速器芯片需求演進(jìn)，各原廠計(jì)劃于2024年推出新產(chǎn)品HBM3e，預(yù)期HBM3與HBM3e將成為明年市場(chǎng)主流。

HBM各世代差異，主要以速度做細(xì)分。除了市場(chǎng)已知的HBM2e外，在進(jìn)入HBM3世代時(shí)，產(chǎn)業(yè)出現(xiàn)較為混亂的名稱(chēng)。TrendForce集邦咨詢(xún)特別表示，目前市場(chǎng)所稱(chēng)的HBM3實(shí)際需細(xì)分為兩種速度討論，其一，5.6~6.4Gbps的HBM3；其二，8Gbps的HBM3e，別名HBM3P、HBM3A、HBM3+、HBM3 Gen2皆屬此類(lèi)。

目前三大原廠HBM發(fā)展進(jìn)度如下，兩大韓廠SK海力士（SK hynix）、三星（Samsung）先從HBM3開(kāi)發(fā)，代表產(chǎn)品為NVIDIA H100/H800以及AMD的MI300系列，兩大韓廠預(yù)計(jì)于2024年第一季送樣HBM3e；美系原廠美光（Micron）則選擇跳過(guò)HBM3，直接開(kāi)發(fā)HBM3e。

HBM3e將由24Gb mono die堆棧，在8層（8Hi）的基礎(chǔ)下，單顆HBM3e容量將一口氣提升至24GB，此將導(dǎo)入在2025年NVIDIA推出的GB100上，故三大原廠預(yù)計(jì)要在2024年第一季推出HBM3e樣品，以期在明年下半年進(jìn)入量產(chǎn)。


今明HBM需求預(yù)計(jì)陡峭增漲，兩家大廠披露HBM最新路線圖

業(yè)內(nèi)專(zhuān)家表示，由于調(diào)整產(chǎn)能需要時(shí)間，未來(lái)兩年HBM供應(yīng)預(yù)計(jì)仍將緊張，而快速增加HBM產(chǎn)量也很困難，因?yàn)樗枰獙?zhuān)門(mén)的生產(chǎn)線。

SK海力士和三星給出了相近的產(chǎn)業(yè)趨勢(shì)解讀：內(nèi)存需求一直在從去年創(chuàng)紀(jì)錄的低增長(zhǎng)水平中復(fù)蘇，當(dāng)前復(fù)蘇尚不足以使全行業(yè)庫(kù)存水平恢復(fù)正常，上半年庫(kù)存水平仍較高，但庫(kù)存已經(jīng)見(jiàn)頂，并預(yù)測(cè)隨著減產(chǎn)效果進(jìn)一步顯現(xiàn)，下半年存儲(chǔ)芯片需求將較上半年有所改善。

為了進(jìn)一步加速庫(kù)存正常化，兩家存儲(chǔ)芯片大廠都在選擇性地對(duì)DRAM和NAND的某些產(chǎn)品進(jìn)行額外的生產(chǎn)調(diào)整，下半年重點(diǎn)抓盈利能力，專(zhuān)注于高附加值和高密度產(chǎn)品來(lái)優(yōu)化其產(chǎn)品組合，特別是加強(qiáng)銷(xiāo)售組合中HBM、DDR5等高價(jià)值前沿產(chǎn)品的份額的增長(zhǎng)，減少庫(kù)存水平較高、盈利能力不及DRAM的NAND的產(chǎn)量。

SK海力士相信第三季度AI服務(wù)器需求將持續(xù)增漲，特別是高密度DDR模塊和HBM，這兩款產(chǎn)品的收入有望在下半年比上半年增速更高，HBM的需求將在明年保持相當(dāng)健康的增長(zhǎng)。

近期，特別是隨著超大規(guī)模企業(yè)對(duì)生成式AI服務(wù)的競(jìng)爭(zhēng)加劇，三星收到了來(lái)自此類(lèi)客戶(hù)的大量需求，預(yù)計(jì)今年和明年HBM的需求可能會(huì)出現(xiàn)相當(dāng)陡峭的增長(zhǎng)。

目前SK海力士的首要任務(wù)是投資增加HBM的大規(guī)模生產(chǎn)。該公司剛剛對(duì)今年年初制定的有關(guān)技術(shù)產(chǎn)能組合的規(guī)劃進(jìn)行了調(diào)整，以應(yīng)對(duì)對(duì)高密度DDR5和HBM不斷增長(zhǎng)的需求。

對(duì)于HBM路線圖來(lái)說(shuō)，重要的是與GPU的發(fā)布或領(lǐng)先加速器市場(chǎng)的公司的時(shí)間表保持一致。SK海力士預(yù)計(jì)將在2026年某個(gè)時(shí)候轉(zhuǎn)向HBM Gen 4，并正為此做準(zhǔn)備。

根據(jù)其路線圖，明年下半年將是HBM3E量產(chǎn)期，也是HBM3E的供應(yīng)擴(kuò)大期。今年SK海力士的重點(diǎn)是增加HBM量產(chǎn)所需的1Z納米的比例，還準(zhǔn)備增加1B納米產(chǎn)能和TSV產(chǎn)能，為明年上半年開(kāi)始供貨的HBM3E做準(zhǔn)備。

為了與市場(chǎng)增長(zhǎng)預(yù)期保持一致，三星一直在擴(kuò)展其HBM業(yè)務(wù)，產(chǎn)品方面擁有向主要客戶(hù)獨(dú)家供應(yīng)HBM2的記錄，后續(xù)還就HBM2E開(kāi)展業(yè)務(wù)，計(jì)劃2023年下半年開(kāi)始大規(guī)模生產(chǎn)HBM3。三星HBM3正在接受具有行業(yè)頂級(jí)性能和密度或容量的客戶(hù)資格認(rèn)證，已開(kāi)始向主要的AI SoC公司和云計(jì)算公司發(fā)貨8層16GB和12層24GB產(chǎn)品。具有更高性能和容量的三星下一代HBM3P芯片計(jì)劃于今年晚些時(shí)候發(fā)布。

三星還一直投資HBM生產(chǎn)能力，基于此已經(jīng)預(yù)訂了大約10億或十億中值Gb級(jí)的客戶(hù)需求，大約是去年的兩倍，并正在通過(guò)提高生產(chǎn)力來(lái)進(jìn)一步提高供應(yīng)能力，到2024年計(jì)劃將HBM產(chǎn)能增加至少是2023年水平的兩倍。另?yè)?jù)此前報(bào)道，三星擬投資1萬(wàn)億韓元擴(kuò)產(chǎn)HBM。

對(duì)于三星來(lái)說(shuō)，它雖然在HBM競(jìng)爭(zhēng)的反應(yīng)比SK海力士慢半拍，但考慮到通常AI芯片與HBM存儲(chǔ)器一起集成到單個(gè)封裝中，三星擁有一個(gè)其他芯片企業(yè)所不具備的優(yōu)勢(shì)——兼具先進(jìn)GAA工藝技術(shù)、HBM技術(shù)和先進(jìn)封裝技術(shù)。

如果未來(lái)三星能夠推出最大化發(fā)揮這三類(lèi)關(guān)鍵技術(shù)協(xié)同效應(yīng)的解決方案，這有望成為未來(lái)三星在AI算力市場(chǎng)競(jìng)爭(zhēng)中的關(guān)鍵壁壘。

AI服務(wù)器產(chǎn)業(yè)鏈燎原星星之火

近期，各大媒體紛紛報(bào)道關(guān)于與英偉達(dá)相關(guān)的AI服務(wù)器漲價(jià)的消息。曾經(jīng)僅售8萬(wàn)元的AI服務(wù)器如今已經(jīng)猛漲至160萬(wàn)元，漲幅高達(dá)20倍。這一現(xiàn)象不僅與市場(chǎng)行情緊密相關(guān)，更是AI大模型需求迅猛增長(zhǎng)的結(jié)果。AI服務(wù)器作為通用算力芯片的重要承載者，英偉達(dá)高端GPU供不應(yīng)求，推動(dòng)了整個(gè)AI服務(wù)器行業(yè)的漲價(jià)潮。然而，AI服務(wù)器的漲價(jià)并非只有GPU一枝獨(dú)秀，還牽涉到存儲(chǔ)芯片等多種核心器件，形成了多層次的市場(chǎng)需求。

AI服務(wù)器由傳統(tǒng)服務(wù)器演變而來(lái)，它是高性能計(jì)算機(jī)的代表，承載著網(wǎng)絡(luò)上80%的數(shù)據(jù)和信息。普通服務(wù)器和AI服務(wù)器最大的區(qū)別在于后者采用了組合拳的形式，常見(jiàn)的是CPU+GPU、CPU+TPU等搭配。CPU退居幕后，GPU等AI芯片在其中充當(dāng)主角做大量運(yùn)算，這使得AI服務(wù)器具備了強(qiáng)大的算力，滿(mǎn)足了AI對(duì)密集型計(jì)算的需求。

AI服務(wù)器價(jià)格的瘋漲與AI市場(chǎng)需求的激增密切相關(guān)。AI大模型的訓(xùn)練和推理需求都迅猛增長(zhǎng)，訓(xùn)練模型要求高算力，推理相對(duì)較低但無(wú)止境，加之GPU等芯片在其中充當(dāng)主角，這導(dǎo)致AI服務(wù)器成本高昂。英偉達(dá)的A100等高端GPU因?yàn)樾阅軆?yōu)秀，成為決定性因素，一臺(tái)普通服務(wù)器連換不到AI服務(wù)器里的8個(gè)A100。因此，AI服務(wù)器價(jià)格瘋漲，也反映了GPU等核心器件的價(jià)值占比較高。

AI服務(wù)器需求的飆升不僅僅局限于GPU，還帶動(dòng)了存儲(chǔ)芯片等器件的價(jià)值倍增。AI模型訓(xùn)練算力需求每年增長(zhǎng)高達(dá)10倍，存儲(chǔ)量大幅提升。數(shù)據(jù)中心成為存儲(chǔ)增長(zhǎng)的重要引擎。同時(shí)，板內(nèi)互聯(lián)接口芯片、電源管理、散熱、PCB、網(wǎng)卡等器件的價(jià)值量都有提升。存儲(chǔ)芯片的價(jià)值占比接近30%，成為AI服務(wù)器核心組件中價(jià)值增長(zhǎng)最為明顯的一環(huán)。

AI服務(wù)器的漲價(jià)現(xiàn)象背后是AI市場(chǎng)需求的迅猛增長(zhǎng)所致，英偉達(dá)高端GPU作為決定性因素，成為AI服務(wù)器價(jià)格攀升的關(guān)鍵。同時(shí)，存儲(chǔ)芯片等核心器件的需求也飆升，整個(gè)AI服務(wù)器市場(chǎng)的需求層次逐漸豐富。AI服務(wù)器行業(yè)的蓬勃發(fā)展，為AI技術(shù)的不斷進(jìn)步提供了強(qiáng)有力的支撐。然而，AI服務(wù)器漲價(jià)的問(wèn)題也需要引起行業(yè)重視，尋求更多技術(shù)創(chuàng)新和產(chǎn)業(yè)協(xié)同，確保AI技術(shù)的穩(wěn)健發(fā)展。