PCB動態
AI模型需耗用大量GPU 推動載板長期需求
2023/03/28
據市調機構集邦科技表示，要處理1800億參數的GPT-3.5大型模型，需要的GPU晶片數量高達2萬顆，未來GPT大模型商業化所需的GPU晶片數量甚至會超過3萬顆。
業內人士表示，以NVIDIA H100 或 A100晶片來說，皆採用高階載板，載板面積估可達65*65mm、層數約在10 層以上，製作難度高，需消耗更多產能，若AI伺服器趨勢加速往上，有助ABF產業供需提早回到健康水準。
而以近期市況來說，載板廠商上半年仍是保守，客戶仍在積極去化庫存，主要除了PC/NB市場仍疲弱之外，大型數據中心對於伺服器的需求量下修，北美四大雲端服務的提供商仍在緊縮支出甚至擴大裁員，對於新伺服器的建置採購也放緩，另外，對於新平台的導入也延後，造成上半年整體ABF需求不如預期。
法人即表示，以今年ABF載板是轉為供過於求的狀況，相對於過去兩年選擇載板首選以ABF占營收比重高者來說，今年則需要優先選擇可以生產高階ABF板(層數高、尺寸大)的領導廠商，因在市況動搖時，中低階ABF載板也面臨降價的壓力，門檻較高的高階板，相對價格也較有支撐。（新聞來源：Money DJ）