隨著對AI的需求暴增，據trendforce稱，微軟、谷歌、亞馬遜、中國企業百度等csp（云端服務提供商）購買高級AI服務器，并對AI模式的教育和加強進行大量投資。提升ai芯片和高頻帶寬內存（hbm）的需求，到2024年將尖端成套設備的生產能力增長34%。

結合nvidia a100和h100的最新cpu和gpu的grace hofer芯片表示，一個hbm芯片的搭載容量提高了20%，達到96gb。amd使用hbm， mi300為hbm3、mi300a為128gb、mi300x為192gb，提高了50%。據悉，谷歌將在下半年推出的tpu tensor處理器上搭載hbm，以擴充ai基礎設施。

集成局預測說，搭載AI芯片的hbm到2023年將達到2.9億gb，接近總容量的60%，明年也將增長30%以上。

除了存儲半導體的增長之外，ai和hpc等芯片還需要先進的配套技術，需求日益增加。臺灣半導體公司cowos積極調整龍潭廠生產能力，以應對爆發性增長。

集邦觀察，在強勁需求的帶動下，臺積電到2023年底cowos月產量有望達到12k。僅英偉達的cowos生產能力就比年初增加了50%。如果amd、谷歌等高水平ai芯片的需求增加，下半年cowos的生產能力將更加緊迫。這種強勁的趨勢在明年也將持續下去，預計隨著相關裝備的成熟，尖端成套設備的生產能力將再次增加3040%。

無論是hbm還是cowos，直接硅穿孔技術（tsv）、中間層電路板（interposer）、濕式工程設備等相關設備能否立即配置在適當的位置令人擔憂。tsmc將根據需要研究其他尖端包裝外包設備。例如，amkor或samsung旨在立即應對潛在的供應不足。