- 註冊時間
- 2014-6-7
- 最後登錄
- 2025-8-29
- 主題
- 查看
- 積分
- 6724
- 閱讀權限
- 130
- 文章
- 8531
- 相冊
- 0
- 日誌
- 0
 
狀態︰
離線 
|
優化機器人大腦 8299群聯新任務 3260威剛 2451創見 5289宜鼎
2025/08/29
機器人需求爆發，機器人大腦需要配備專門用於儲存的高容量記憶體，群聯（8299）為解決AI推理應用中的關鍵障礙，先前推出aiDAPTIV+整合NAND快閃記憶體作為擴充記憶體。
群聯執行長潘健成昨（28）日強調，在機器人的時代，群聯扮演的是優化「大腦」的供應商。
業界指出，AI有兩種類型的記憶體：短期工作記憶體和長期記憶體（或儲存裝置）。短期記憶體就像一個認知工作區，在使用運算處理器時，可以立即進行資料操作和決策。
業界進一步說，這種類型的記憶體對於即時語言翻譯等任務很有幫助，在這些任務中，AI系統必須對口語或書面語進行處理並做出回應，例如，聊天機器人在對話過程中使用短期記憶體來維持語境，確保做出連貫和相關的回應。
隨著各大企業尋求從該技術中獲益，生成式人工智慧在各行業變得愈來愈普遍，然而，邊緣人工智慧應用經常面臨記憶體限制，從而限制輸出的品質。
為了應對上述挑戰，群聯充分利用了其在高性能NAND快閃記憶體技術方面的專業知識，進一步開發出aiDAPTIV+，為邊緣物聯網和機器人設備、個人電腦、工程工作站以及資料中心伺服器開闢了新的可能性。
經過實證，透過aiDAPTIV+的技術，能提升大語言模型推論時間（Time-to-First-Token；TTFT）快14倍，或是推論回答的內容長度（Token-Length）多八倍的效能。 |
|
發表於 
