2024年,全球記憶體市場迎來關鍵轉捩點。根據路透社報導,韓國兩大記憶體廠商──三星電子(Samsung Electronics)與 SK 海力士(SK Hynix),已正式簽署意向書(LOI),將為 OpenAI 的資料中心供應關鍵的記憶體晶片。此舉不僅象徵著韓國晶片製造商正式加入「星際之門」的龐大供應鏈,更確立了記憶體在 AI 時代的戰略地位。
由於韓國企業在全球記憶體市場中扮演著決定性的角色,兩家公司合計掌握了全球 DRAM 市場約 70% 的市占率。更關鍵的是,在 AI 伺服器和資料中心不可或缺的核心零組件 HBM 領域,韓國企業更是擁有近 80% 的絕對領先地位。在 AI 加速運算需求爆炸性成長的環境下,HBM 已成為解決龐大算力需求的理想核心零組件。
然而,「星際之門」等超級 AI 專案對記憶體的需求已不再是單純的容量疊加,而是對速度、容量、成本、效率的綜合挑戰。AI 工作負載的特殊性,尤其是在模型推論階段,正推動記憶體架構從傳統的單一記憶體池,走向精細化、分層化管理的「AI 記憶體分級」時代。
AI 工作負載對記憶體的需求分級
AI 模型,特別是大語言模型(LLM),對數據記憶的需求類似於人類大腦,必須有不同層次的「記憶」來處理即時、短期和長期的資訊。根據市場消息指車,AI 時代對記憶體需求因數據被細分為三個主要層級,每個層級對應不同的記憶體產品,這也決定了未來記憶體市場的產品組合與營收結構。
整體來說,OpenAI「星際之門」計畫以及整個 AI 產業對長情境、高效率推理的追逐,正對全球記憶體產品市場產生深遠且複雜的影響。例如 HBM 成為不可撼動的戰略核心、DRAM 市場角色重新定義,以及SSD 進入高性能 AI 架構,加上 架構創新的決定性作用等。這使得星際之門所代表的超大規模 AI 推理需求,徹底改變了記憶體市場的供需生態。