- 註冊時間
- 2014-6-7
- 最後登錄
- 2024-11-8
- 主題
- 查看
- 積分
- 6053
- 閱讀權限
- 130
- 文章
- 18846
- 相冊
- 0
- 日誌
- 0
狀態︰
離線
|
微軟AI晶片 找台積助攻 聊天機器人熱度不減 3443創意 8227巨有科 3680家登 1560中砂
2023年4月20日
微軟轉投資OpenAI開發的人工智慧(AI)聊天機器人ChatGPT熱度不減,引發國際大廠爭相布局AI應用,微軟Azure雲端服務提供AI運算,過去主要以繪圖處理器(GPU)架構為主,現決定投入自有AI晶片研發。據業界及外媒消息,微軟將採用台積電5奈米製程及創意矽智財(IP)開發AI運算Athena處理器,以進一步降低AI市場布局的龐大運算硬體建置成本。
隨AI應用在各產業遍地開花,繼亞馬遜AWS、Meta、Google等大廠陸續表態將開發客製化自有AI晶片後,微軟也決定跟進投入客製化自有AI晶片研發。事實上,微軟與台積電及創意已有多年合作經驗,微軟遊戲機XBOX內建的多款客製化晶片都是交由台積電生產,此次開發代號為Athena的5奈米AI處理器也交由台積電代工。
據外媒及業界消息,微軟此次開發代號為Athena的AI處理器,會採用創意IP及委託設計(NRE)服務,並採用台積電5奈米製程生產,最快明年上半年開始導入資料中心。微軟Athena處理器將應用在生成式AI技術運算,包括訓練大型語言模型(LLM)和AI推論(inference)等項目。
微軟目前提供的AI運算算力仍是基於GPU架構,多數是向輝達(NVIDIA)採購龐大的GPU,但隨著生成式AI市場興起,AI運算算力需求爆發性成長,龐大GPU採購及資料中心建置成本大幅提高,所以微軟希望自行研發的AI運算Athena處理器能提高效能,進一步降低開發AI所需耗費金錢成本和時間。
據研究資料顯示,每千萬名生成式AI每日活躍用戶(Daily Active User,DAU)所需求算力,約等同於2.4~3.0萬顆資料中心GPU,且隨著DAU數量的大幅跳升,現階段要立即處理用戶的每一個提問所需算力約等於4張GPU顯卡,每8張GPU顯卡算力能立即生成15~20個單字。微軟只要Athena處理器的AI運算算力超越GPU顯卡,AI晶片投資計畫就算成功。 |
|