英特爾端Gaudi 3 AI加速器戰輝達 台積電、世芯 智邦 高技 沾光 6104創惟

mojeku

英特爾端Gaudi 3 AI加速器戰輝達 台積電、世芯 智邦 高技 沾光 6104創惟

2024.04.10  

英特爾9日舉辦Vision 2024年度客戶及合作夥伴大會，執行長基辛格（Pat Gelsinger）揭示全新的Gaudi 3 AI加速器，以及一系列支持企業級通用 AI（GenAI）部署的開放可擴展系統、新產品和戰略合作；他強調，未來每家公司都需要AI，英特爾將扮演重要角色。台廠相關英特爾供應鏈包含台積電、日月光、世芯、智邦、高技等都將受惠。

基辛格表示，AI創新正在以前所未有的速度推進，在晶片驅動之下，未來每家公司都將迅速成為AI公司；英特爾正將AI帶向企業的各個層面，自個人電腦到數據中心、再到邊緣計算，包括最新Gaudi、Xeon 和Core Ultra 平台。

Gaudi 3將由5奈米打造，晶片整體包含10個主要模組，包含2個運算模組和8個記憶體堆疊（HBM 模組）。外傳世芯為其提供設計服務，效能皆較前代有所提升，包括工作負載性能、網路性能及HBM容量，皆有倍數之升級。法人也指出，高技為其提供PCB、智邦則提供通用基板（UBB SMT），為英特爾GPU伺服器受惠業者。

相比輝達H100，Gaudi 3在訓練和推論性能上，皆有5成以上之提升，同時在推理延遲方面也有大幅改善；Gaudi 3加速器將於本季度提供給OEM業者，包含HPE、聯想和美超微。

英特爾強調，Gaudi 3擁有高度並行的運算引擎，涵蓋64個自定義AI處理器核心和8個矩陣乘法引擎，能高效處理複雜的矩陣運算；擁有128GB HBM2e高頻寬記憶體和3.7TB／s記憶體頻寬，為大型LLM和多模態模型提供充足的空間。

作為火力展示，英特爾透露眾多採用Gaudi AI加速器之公司，NAVER（Line母公司）將使用Gaudi於雲端至邊緣設備上部署先進的AI服務、博世（Bosch）將探索智慧製造應用，如生成合成數據；另外，包括NielsenIQ、Seekr及國際香料公司 IFF都將利用英特爾GenAI技術，拓展相關應用。

在Vision 2024 大會，英特爾展現致力於讓 AI技術更加開放、安全，並惠及全球企業的決心。憑借新方案與合作，英特爾積極在AI革命中發揮領導作用。