TrendForce:預(yù)估2023年市場(chǎng)上AI加速芯片搭載HBM總?cè)萘繉⑦_(dá)2.9億GB 同比增長(zhǎng)近6成
時(shí)間:2023-06-23 09:15:37
【資料圖】
6月21日,TrendForce集邦咨詢研究表示,2023年ChatBOT等生成式AI應(yīng)用帶動(dòng)AI服務(wù)器成長(zhǎng)熱潮,又以大型云端業(yè)者最積極投入,包含Microsoft、Google、AWS或其他中系業(yè)者如Baidu、ByteDance等陸續(xù)采購(gòu)高端AI服務(wù)器,以持續(xù)訓(xùn)練及優(yōu)化其AI分析模型。高端AI服務(wù)器需采用的高端AI芯片,將推升2023-2024年高帶寬存儲(chǔ)器(HBM)的需求,并將驅(qū)動(dòng)先進(jìn)封裝產(chǎn)能2024年成長(zhǎng)3-4成。TrendForce集邦咨詢預(yù)估,2023年市場(chǎng)上主要搭載HBM的AI加速芯片(如NVIDIA的H100及A100、AMD的MI200及MI300及Google的TPU等),搭載HBM總?cè)萘繉⑦_(dá)2.9億GB,成長(zhǎng)率近6成,2024年將持續(xù)成長(zhǎng)3成以上。
TrendForce集邦咨詢指出,為提升整體AI服務(wù)器的系統(tǒng)運(yùn)算效能,以及存儲(chǔ)器傳輸帶寬等,NVIDIA、AMD、Intel等高端AI芯片中大多選擇搭載HBM。目前NVIDIA的A100及H100,各搭載達(dá)80GB的HBM2e及HBM3,在其最新整合CPU及GPU的Grace Hopper芯片中,單顆芯片HBM搭載容量再提升20%,達(dá)96GB。另外,AMD的MI300也搭配HBM3,其中,MI300A容量與前一代相同為128GB,更高端MI300X則達(dá)192GB,提升了50%。同時(shí)預(yù)期Google將于2023年下半年積極擴(kuò)大與Broadcom合作開(kāi)發(fā)AISC AI加速芯片TPU亦采搭載HBM存儲(chǔ)器,以擴(kuò)建AI基礎(chǔ)設(shè)施。
此外,AI及HPC等芯片對(duì)先進(jìn)封裝技術(shù)的需求日益提升,其中,以TSMC的CoWoS為目前AI 服務(wù)器芯片主力采用者。CoWoS封裝技術(shù)主要分為CoW和oS兩段,其中,CoW主要整合各種Logic IC(如CPU、GPU、AISC等)及HBM存儲(chǔ)器等,另外,oS部分則將上述CoW以凸塊(Solder Bump)等接合,封裝在基板上,最后再整合到PCBA,成為服務(wù)器主機(jī)板的主要運(yùn)算單元,與其他零部件如網(wǎng)絡(luò)、儲(chǔ)存、電源供應(yīng)單元(PSU)及其他I/O等組成完整的AI 服務(wù)器系統(tǒng)。
TrendForce集邦咨詢觀察,估計(jì)在高端AI芯片及HBM強(qiáng)烈需求下,TSMC于2023年底CoWoS月產(chǎn)能有望達(dá)12K,其中,NVIDIA在A100及H100等相關(guān)AI Server需求帶動(dòng)下,對(duì)CoWoS產(chǎn)能較年初需求量,估提升近5成,加上AMD、Google等高端AI芯片需求成長(zhǎng)下,將使下半年CoWoS產(chǎn)能較為緊迫,而此強(qiáng)勁需求將延續(xù)至2024年,預(yù)估若在相關(guān)設(shè)備齊備下,先進(jìn)封裝產(chǎn)能將再成長(zhǎng)3-4成。
TrendForce集邦咨詢指出,值得注意的是,在AI較急促需求下,無(wú)論是HBM或CoWoS生產(chǎn)過(guò)程中,得后續(xù)觀察周邊配套措施,例如硅通孔封裝技術(shù)(TSV)、中介層電路板(Interposer)以及相關(guān)設(shè)備(如濕制程設(shè)備)等是否能到位,如前置時(shí)間(Lead Time)等考量。而在AI強(qiáng)勁需求持續(xù)下,估NVIDIA針對(duì)CoWoS相關(guān)制程,亦不排除將評(píng)估其他類似先進(jìn)封裝外援,例如Amkor或Samsung等,以應(yīng)對(duì)可能供不應(yīng)求的情形。
相關(guān)稿件
TrendForce:預(yù)估2023年市場(chǎng)上AI加速芯片搭載HBM總?cè)萘繉⑦_(dá)2.9億GB 同比增長(zhǎng)近6成
德國(guó)電信:將繼續(xù)購(gòu)買(mǎi)華為5G設(shè)備,挑戰(zhàn)歐盟不合理規(guī)則|全球關(guān)注
即時(shí)焦點(diǎn):AI板塊幾乎全軍覆沒(méi)!A股跌上熱搜 股民:含淚吃粽子葉!
中水漁業(yè)將聚焦預(yù)制菜和水產(chǎn)品貿(mào)易,向產(chǎn)業(yè)鏈后端延伸
世界動(dòng)態(tài):全新豐田皇冠威爾法上市 售價(jià)89.9萬(wàn)元起
【快播報(bào)】非遺表演齊聚古寺 北京石刻藝術(shù)博物館舉辦端午文化嘉年華
織牢全民禁毒網(wǎng):首都禁毒戒毒宣傳教育5年累計(jì)受眾50余萬(wàn)人_當(dāng)前聚焦
這次袁泉也輸了!罕見(jiàn)撞衫張雨綺,氣質(zhì)美也不敵霸氣的時(shí)髦感
女生花30萬(wàn)元拍短片拒領(lǐng)三等獎(jiǎng) 網(wǎng)友:內(nèi)容空洞,影評(píng)人:缺乏深度_觀焦點(diǎn)
小戶型面積翻倍?他家37平公寓大變身,陽(yáng)臺(tái)并入臥室,多出休閑區(qū) 全球快播
焦點(diǎn)簡(jiǎn)訊:梅婷養(yǎng)了他4年,李小冉為他兩次流產(chǎn),成名后他另娶新歡生子
前沿?zé)狳c(diǎn):造船業(yè)超級(jí)周期要來(lái)了?中國(guó)船舶有生產(chǎn)線排到2028年,股價(jià)暴漲超40%
【全球獨(dú)家】男孩稱后背癢植物人父親用盡全力抬手 具體是什么情況?
中企與柬埔寨學(xué)生“沉浸式”過(guò)端午|環(huán)球熱門(mén)
今日精選:武江區(qū)城區(qū)9所公辦幼兒園24日起開(kāi)始報(bào)名
古風(fēng)愛(ài)情詩(shī)句簡(jiǎn)短_古風(fēng)愛(ài)情詩(shī)句|焦點(diǎn)精選
營(yíng)銷,是經(jīng)營(yíng)的哲學(xué)_全球熱點(diǎn)
一夜10大轉(zhuǎn)會(huì)動(dòng)態(tài):尤文官宣買(mǎi)斷強(qiáng)援,京東安加盟巴薩在即
端午小長(zhǎng)假首日長(zhǎng)三角鐵路迎來(lái)客流高峰 預(yù)計(jì)發(fā)送旅客340萬(wàn)人次-世界微頭條
全球微動(dòng)態(tài)丨端午臨近 市場(chǎng)消費(fèi)升溫
【世界速看料】國(guó)王與神跡:佛教君主的多重身體和超自然基礎(chǔ)
電腦下方的任務(wù)欄不顯示怎么辦win10_電腦下方的任務(wù)欄不顯示怎么辦
世界信息:看過(guò)來(lái)!端午期間,四川這些路段易擁堵
教育頻道
上海企業(yè)技能人才年平均工資超16萬(wàn) 這幾個(gè)行業(yè)工資較高
世界熱資訊!華碩ROG掌機(jī)推出6合1擴(kuò)展塢:3個(gè)USB-A、1個(gè)USB-C、1個(gè)有線網(wǎng)口
瞄準(zhǔn)新能源汽車(chē)市場(chǎng) 外企加快在安徽布局 世界熱聞
環(huán)球信息:杰創(chuàng)智能股東戶數(shù)增加5.52%,戶均持股17.76萬(wàn)元
【全球播資訊】株洲市教育局開(kāi)展“幸福鄰里節(jié) 粽香飄社區(qū)”基層共建主題活動(dòng)


