- 註冊時間
- 2014-6-7
- 最後登錄
- 2026-1-11
- 主題
- 查看
- 積分
- 7037
- 閱讀權限
- 130
- 文章
- 9152
- 相冊
- 0
- 日誌
- 0
   
狀態︰
離線
|
輝達新儲存平台將延伸AI代理長期記憶 群聯、威剛等利多 創見 宇瞻 2495普安 鈺創
2026/01/07
輝達因應全新Rubin平台AI晶片對資料儲存需求大增,美西時間5日推出最新推論情境記憶儲存平台,藉此延伸AI代理的長期記憶,並能實現節點間高速共享,將每秒處理的符元(token)數量提升多達五倍且更節能。
輝達儲存新平台啟動,法人看好將帶旺群聯(8299)、威剛等台廠。
輝達高效能運算和人工智慧超大規模基礎設施解決方案高級總監哈里斯高喊,AI的瓶頸正在從運算轉移到上下文管理,「為了實現AI擴大,儲存裝置不能再被忽視了。」
業界認為,輝達資料儲存領域大升級,直言儲存裝置不能再被忽視,意味後續對儲存型快閃記憶體(NAND Flash)打造的固態硬碟(SSD)等儲存裝置需求將更大,助攻NAND產業更加蓬勃發展,台廠中,群聯已是輝達重要NAND相關應用夥伴,將率先受惠,進一步帶旺威剛、創見、宇瞻等NAND相關業者。
法人指出,群聯已成功打入輝達Rubin NVL72架構的switch tray供應鏈,提供具備自有控制IC的關鍵模組,相關產品已進入量產,不僅為群聯帶來營收新動能,更代表群聯正式切入輝達下一代AI架構核心,成為推論時代重要供應夥伴。
輝達這次是透過推出NVIDIA BlueField-4,對資料儲存領域大升級。根據輝達官網,NVIDIA BlueField-4可延伸AI代理的長期記憶,並能實現節點間高速共享,將每秒處理的符元(token)數量提升多達五倍;相較於傳統儲存裝置,提供高達五倍的能源效率,可提供情境記憶體的基礎架構。
業界解讀,這代表輝達正式把「儲存」與「記憶體階層」納入AI核心運算堆疊,未來AI競賽不再只是GPU與高頻寬記憶體(HBM)的問題,而是進入「情境記憶體」與「推論基礎建設」新戰場。從Rubin平台、BlueField-4到推論情境記憶儲存平台,輝達正在打造可支撐長時間推理與多代理運作的系統級AI。
業界說明,未來只要雲端服務供應商在AI儲存系統中採用NVIDIA BlueField-4,就能有效提升終端用戶在使用AI進行連續問題與推論時的反應與效率,讓使用者體驗獲得進一步提升,而這當中的關鍵就是NAND晶片打造的SSD載具。
輝達強調,隨著AI模型邁向數兆參數、多步驟推理與長時間互動,情境資料已成為AI系統效能關鍵,但GPU記憶體無法無限擴充,傳統儲存又無法支援即時推論需求,因此必須建立全新一層「為AI設計的記憶體型基礎建設」,推論情境記憶儲存平台可擴展GPU記憶容量、實現節點間高速共享,能源效率也大幅優於傳統儲存架構。 |
|