HBM非AI推論首選　南亞科攻客製化DRAM、泰山新廠明年產能開出

工研院今天舉行《半導體與AI算力永續競爭力論壇》，南亞科資深副總經理吳志祥表示，隨著AI發展逐漸雲端訓練轉向地端推論，傳統高頻寬記憶體（HBM）因能耗與架構限制，並非推論應用的最佳解答。南亞科正積極佈局客製化AI UWIO記憶體與3D IC堆疊技術，並規劃泰山新晶圓廠於明年開出新產能，精準搶攻地端AI與邊緣運算商機。

過去幾年最受關注的記憶體莫過於HBM（高頻寬記憶體），少了HBM，AI就無法進行訓練，不過南亞科資深副總吳志祥指出，儘管HBM在大參數模型的訓練階段扮演關鍵角色，但進入AI推論時代後，使用者在終端裝置產生的大量對話與KV Cache，使記憶體頻寬與功耗成為關鍵瓶頸。由於HBM引腳數（I/O pin）有限且功耗較高，在注重反應速度與省電的地端裝置如AI PC、手機及攜帶式設備上並非首選。

對此，南亞科發展的客製化UWIO DRAM，採用Wafer-on-Wafer（WoW）等3D IC堆疊技術，能直接將DRAM與CPU或ASIC邏輯晶片連結，不僅頻寬可提升5至10倍，單位位元傳輸能耗更僅有HBM的三分之一至十分之一，為地端推論提供極具競爭力的差異化解決方案。