隨著AI訓練、推論及AI PC需求同步爆發,記憶體已從過去景氣循環產業,走向供不應求的榮景。南亞科技資深副總經理吳志祥表示,過去數十年來,記憶體多占整體半導體產值不到3成,甚至一度低於2成,因此市場普遍將DRAM視為景氣循環劇烈、標準化程度高的商品。然而AI時代來臨後,算力快速提升,記憶體反而成為整個運算架構最大的瓶頸,產業角色因此徹底翻轉。
他指出,今年全球半導體產值可望達1.5兆至1.6兆美元,其中DRAM與NAND Flash產值預估將突破8500億美元,邏輯晶片約4000億美元,其餘則由感測器、類比IC等其他產品構成,顯示記憶體已成為推動本波產業成長的最大動能。
吳志祥分析,在生成式AI出現之前,CPU、ASIC等晶片的運算能力便已超越記憶體頻寬成長速度;生成式AI興起後,大型語言模型參數近年更以接近每年百倍速度增加,即使高頻寬記憶體(HBM)問世,仍無法完全解決記憶體牆(Memory Wall)問題。
如今AI發展已逐步從模型訓練走向推論(Inference),不論是雲端AI服務、代理式AI,或未來普及的機器人、終端AI裝置,都需要大量KV Cache儲存使用者互動資訊與模型參數,也讓DRAM容量需求持續攀升,甚至開始帶動Flash共同成長,形成整體記憶體市場同步擴張的新局面。
從產品結構來看,吳志祥表示,今年HBM約占全球DRAM需求近一成,加上傳統伺服器約4成以上需求,兩者合計已超過整體DRAM市場一半,未來仍將持續提高,也因此排擠手機、PC等消費性產品所需的標準型DRAM供給,成為近期供不應求的重要原因。
他以AI伺服器為例指出,目前一顆AI GPU通常需搭配8組HBM,每組再堆疊12層,相當於一顆GPU背後需要96顆高密度DRAM;隨著AI推論時代到來,新一代AI平台對記憶體需求更進一步提升,一顆CPU搭配的DRAM數量已超過200顆。
除了資料中心之外,AI PC也將成為下一波需求來源。他指出,傳統PC多以16GB或24GB記憶體為主,但目前AI PC規格已逐步提高至128GB,每台裝置所需DRAM容量大幅增加,一旦AI PC大量普及,將再推升全球DRAM需求。
面對AI帶來的新市場,南亞科也加快產品升級與技術布局。吳志祥表示,公司目前以16奈米製程生產超過40項產品,服務全球800多家客戶,目前AI及AI基礎建設相關應用已占公司產品比重超過2成,未來仍將持續提升。
他指出,DRAM未來將逐漸從標準化產品走向客製化。南亞科正同步投入3個世代技術研發,並布局3D IC及客製化DRAM,希望將記憶體直接與CPU或ASIC整合,進一步提升頻寬至現有HBM的5至10倍,同時將每傳輸一個位元的能耗降至HBM約十分之一,搶攻AI推論與邊緣AI市場。
不過,他也坦言,AI帶來龐大商機的同時,也讓半導體產業面臨能源與減碳挑戰。南亞科估計,台灣半導體產業用電需求未來十年將由目前約400億度增加至900億度,全球資料中心用電量到2030年更可能接近1兆度電。
因此,南亞科近年持續將永續納入技術發展策略。除透過16奈米製程降低單位產品碳排放、布局更低功耗的HBM與客製化DRAM外,公司自2018年導入ISO 50001能源管理系統,截至今年已完成逾240項節能專案,累計年節電量約7800萬度,占現有工廠用電約8~9%。同時,公司也持續推動供應鏈碳盤查、提高綠電採購比例,目標2030年現有廠區綠電使用率達25%。



