AMD 攜手韓新創 MangoBoost 大砍 AI 伺服器建置成本 90%

無人島

AMD 與韓國新創 MangoBoost 18 日在首爾 Grand InterContinental Seoul Parnas 受訪時表示，雙方攜手推廣以開放生態系為基礎的異質運算，主打把不同廠商 GPU、CPU 與 DPU 整合至同套 AI 基礎架構，以降低企業建置與營運成本。AMD 韓國商務銷售主管李在亨（Lee Jae-hyung，音譯）指出，不依賴單一供應商的開放生態系，是 AI 更大規模落實的關鍵，MangoBoost 則視為推動此部署模式的重要合作夥伴。

合作核心在以較低成本硬體搭配軟體最佳化，補足效能差距。MangoBoost提供可加速伺服器間網路傳輸的DPU，卸載部分原本CPU處理的工作，讓處理器專注核心運算；也推出AI推論軟體LLM Boost，協助最佳化模型推論效率。AMD目前已與全球客戶展開結合自家硬體與LLM Boost的概念驗證（PoC），雙方表示客戶回饋正面。

雙方也把總持有成本（TCO）下降列為主要賣點。李在亨表示，維持相同效能前提下，系統成本可壓低至競品10%左右；MangoBoost強調，技術可以軟體、網路與DPU層級的系統最佳化，發揮硬體全部性能，並開放式架構與客製化設計，將AI系統建置成本降到約10%。對企業不僅能沿用既有GPU資產，也能不全面汰換設備下，逐步導入新GPU。

不過，異質運算導入門檻仍高，企業需要具相當技術與組織資源才能完成系統轉換。李在亨坦言，許多企業缺乏必要人力與能力；MangoBoost執行長金章宇（Kim Jang-woo，音譯）則視此為商機，認為公司能替客戶補足原需投資數十億韓圜自建的不足。MangoBoost今年也將業務從單純的半導體與軟體，擴展到銷售整機伺服器機櫃系統，並設定今年營收達100億韓圜及明年目標成長十倍。

錄自：科技新報