輝達將推出新AI晶片！找上Groq合作 打破內部研發慣例

陽光色叔

Nvidia為因應對手競爭，計畫推出新款晶片產品，這款處理器專注處理AI推論(inference)需求，預計下個月於聖荷西舉辦的GTC開發者大會正式發表，新系統將整合Groq設計的晶片，提供給OpenAI等客戶。

建構AI分為兩階段：提供資料教導系統的「訓練(training)」，以及系統實際上線作答的「推論(inference)」，Nvidia過去產品主力在訓練階段，此次新平台轉攻推論運算，專門處理AI接收指令並產出解答的流程，這套硬體能縮短AI回覆時間，解決市場當前面臨的算力瓶頸。

面對晶片市場對手增加與市占率流失壓力，Nvidia整合Groq技術推出新產品，直接協助OpenAI等客戶提升AI運作效能，Groq專攻推論處理器，Nvidia將其技術整合進自家系統，直接拉高平台處理AI問答的效能，這樣的結盟模式也打破Nvidia過去硬體全靠內部研發的慣例。

錄自：科技新報