智通財經APP獲悉，6月21日，TrendForce集邦咨詢研究表示，2023年ChatBOT等生成式AI應用帶動AI服務器成長熱潮，又以大型雲端業者最積極投入，包含Microsoft、Google、AWS或其他中系業者如Baidu、ByteDance等陸續采購高端AI服務器，以持續訓練及優化其AI分析模型。高端AI服務器需采用的高端AI芯片，將推升2023-2024年高帶寬存儲器(HBM)的需求，並將驅動先進封裝産能2024年成長3-4成。TrendForce集邦咨詢預估，2023年市場上主要搭載HBM的AI加速芯片(如NVIDIA的H100及A100、AMD的MI200及MI300及Google的TPU等)，搭載HBM總容量將達2.9億GB，成長率近6成，2024年將持續成長3成以上。
TrendForce集邦咨詢指出，爲提升整體AI服務器的系統運算效能，以及存儲器傳輸帶寬等，NVIDIA、AMD、Intel等高端AI芯片中大多選擇搭載HBM。目前NVIDIA的A100及H100，各搭載達80GB的HBM2e及HBM3，在其最新整合CPU及GPU的Grace Hopper芯片中，單顆芯片HBM搭載容量再提升20%，達96GB。另外，AMD的MI300也搭配HBM3，其中，MI300A容量與前一代相同爲128GB，更高端MI300X則達192GB，提升了50%。同時預期Google將于2023年下半年積極擴大與Broadcom合作開發AISC AI加速芯片TPU亦采搭載HBM存儲器，以擴建AI基礎設施。
此外，AI及HPC等芯片對先進封裝技術的需求日益提升，其中，以TSMC的CoWoS爲目前AI 服務器芯片主力采用者。CoWoS封裝技術主要分爲CoW和oS兩段，其中，CoW主要整合各種Logic IC(如CPU、GPU、AISC等)及HBM存儲器等，另外，oS部分則將上述CoW以凸塊(Solder Bump)等接合，封裝在基板上，最後再整合到PCBA，成爲服務器主機板的主要運算單元，與其他零部件如網絡、儲存、電源供應單元(PSU)及其他I/O等組成完整的AI 服務器系統。
TrendForce集邦咨詢觀察，估計在高端AI芯片及HBM強烈需求下，TSMC于2023年底CoWoS月産能有望達12K，其中，NVIDIA在A100及H100等相關AI Server需求帶動下，對CoWoS産能較年初需求量，估提升近5成，加上AMD、Google等高端AI芯片需求成長下，將使下半年CoWoS産能較爲緊迫，而此強勁需求將延續至2024年，預估若在相關設備齊備下，先進封裝産能將再成長3-4成。
TrendForce集邦咨詢指出，值得注意的是，在AI較急促需求下，無論是HBM或CoWoS生産過程中，得後續觀察周邊配套措施，例如矽通孔封裝技術(TSV)、中介層電路板(Interposer)以及相關設備(如濕制程設備)等是否能到位，如前置時間(Lead Time)等考量。而在AI強勁需求持續下，估NVIDIA針對CoWoS相關制程，亦不排除將評估其他類似先進封裝外援，例如Amkor或Samsung等，以應對可能供不應求的情形。