群聯前進GTC　發表aiDAPTIVTM重新定義邊緣AI推論

NAND控制晶片暨NAND儲存解決方案大廠群聯電子 (8299) 於今日宣布將於GTC展會119號攤位展示其aiDAPTIVTM多層級記憶體架構技術 (multi-tier memory architecture)，如何在由 NVIDIA 平台驅動的本地邊緣AI系統中，支援更大型AI模型與長上下文（long-context）推論。

群聯表示，目前產業正面臨日益嚴峻的記憶體供給短缺狀況，而對AI就緒平台 (AI-ready platforms) 的需求卻持續快速攀升。由於針對專有資料 (proprietary data) 進行微調 （fine-tuning） 與推論 (inference) 需要大量運算與記憶體資源，也使得企業在投資AI基礎設施與邊緣AI設備時面臨挑戰。隨著AI解決方案成本上升與AI工作流程瓶頸增加，也進一步拖慢企業將AI創新轉化為實際營收的上市時程。為了解決此問題，群聯推出 aiDAPTIV多層級記憶體架構技術，專為邊緣AI應用打造。透過搭載aiDAPTIV技術的群聯企業級Pascari SSD 作為全新的 AI 記憶體層級，aiDAPTIV 技術能夠在 GPU 記憶體、系統 RAM 與NAND Flash快閃記憶體之間，智慧延伸並管理 AI 運算的工作記憶體。

隨著 NVIDIA的AI基礎設施持續提升GPU記憶體能力以支援資料中心推論工作負載，本次群聯發表展示了aiDAPTIV技術如何將多層級記憶體架構 (multi-tier memory architecture) 導入地端邊緣AI系統。aiDAPTIV 技術利用專為持續分頁（sustained paging）與上下文保存（context retention）而優化設計的高耐久度快閃記憶體 (high-endurance NAND flash)，支援在固定GPU硬體配置下進行記憶體密集需求的AI推論 (memory-intensive inference) 與AI模型微調工作負載。透過 aiDAPTIV 的多層級記憶體架構技術，企業可在本地邊緣系統上運作日益成長的 AI 工作負載，並同時兼顧資料隱私並提升長期AI基礎設施投資效率。