記憶體需求噴發!傳輝達攜手SK海力士打造AI專用SSD?

記憶體需求噴發!傳輝達攜手SK海力士打造AI專用SSD?
圖/AI示意圖

商傳媒|記者責任編輯/綜合外電報導

根據韓媒《每日經濟》報導,在AI資料中心大舉擴張之際,市場對高頻寬記憶體(HBM)與高容量DDR5產品需求爆量;儘管美國擅長IC設計、日本聚焦材料供應、荷蘭專注設備製造、台灣以邏輯晶片代工為主,但真正掌握HBM與DDR5生產實力的,目前主要以南韓三星與SK海力士為首。

業界分析指出,韓國企業在全球AI生態體系的角色,已從「供應商」轉變為「關鍵戰略資產」;由於美中科技戰方興未艾,科技巨頭如:NVIDIA、Google、Microsoft在禁止使用中國晶片後,必須確保AI模型推論與訓練的長期穩定供應,因此正積極與三星、SK海力士簽署長期採購合約,以鎖定先進記憶體資源,進一步提升韓國企業在價格與交貨的主導權。

根據《朝鮮Biz》報導,SK海力士與輝達已啟動「Storage Next」內部合作計畫,目標是打造一款專為AI推論負載(Inference Workload)優化的SSD,這項產品將不再侷限於傳統資料儲存功能,而是作為AI模型推論過程中的「準記憶體層(pseudo-memory layer)」,以解決現今DRAM與HBM無法長時間處理大型模型參數的瓶頸。

報導指出,該AI SSD的原型機預計將於2025年底前亮相,目標性能可達每秒1億次輸入輸出操作(100M IOPS),遠超過目前企業級SSD的主流表現。這樣的效能,意味在資料擷取與處理速度上,將可匹敵甚至輔助DRAM與HBM架構,讓AI伺服器能以更低成本,因應模型推論階段的高頻存取需求。

AI推論時代來臨 傳統儲存架構面臨重構壓力

過去AI應用主要聚焦於訓練階段,導致HBM(高頻寬記憶體)與DRAM需求旺盛;但在模型部署與商業化逐漸落地的當下,推論成為主力需求,市場對於能持續供應模型參數、低延遲、高吞吐的儲存裝置轉為關注焦點。

輝達先前已在其新一代Rubin CPX GPU架構中,整合GDDR7記憶體以強化推論的預取效能,如今與SK海力士在NAND領域的合作,被視為是從記憶體層延伸至儲存層的戰略佈局。

「Storage Next」計畫的核心不僅在於NAND晶片本身,更涵蓋新一代SSD控制器設計與儲存軟體堆疊優化,SK海力士預期藉由此平台,可在功耗與散熱上提供比現有伺服器SSD更優的表現,對於追求能耗比的AI資料中心而言極具吸引力。

然而業界也示警,若該AI SSD成功商轉並廣泛應用,NAND產能恐將步上DRAM後塵,面臨供需失衡問題。目前CSP(雲端服務商)與AI巨頭對NAND存儲需求不斷增加,儲存供應鏈已有壓力;若AI SSD進一步拉高採購量,未來可能引爆NAND晶片價格上漲循環。

目前全球DRAM合約價格因AI需求激增而連日上揚,供應商尚未準備好應對突如其來的需求轉向;若「Storage Next」等AI SSD產品在未來2至3年成為主流,NAND晶圓廠勢必需重新調整產能結構,消費級SSD可能被邊緣化,甚至再度出現缺貨與價格波動。