SOGO論壇
  登入   註冊   找回密碼
查看: 3270|回覆: 0
列印 上一主題 下一主題

[AI 應用] 字節跳動推擴散語言模型,推理速度提升 5.4 倍 [複製連結]

Rank: 8Rank: 8

狀態︰ 離線
跳轉到指定樓層
1
發表於 2025-8-1 17:10:17 |只看該作者 |倒序瀏覽 | x 1
綜合中媒報導,字節跳動 Seed 團隊宣布,推出實驗性擴散語言模型「Seed Diffusion Preview」,目標是以結構化的代碼生成為實驗領域,系統性驗證離散擴散技術路線做為下一代語言模型基礎框架的可行性。

實驗結果顯示,Seed Diffusion Preview的代碼推理速度可達2146 tokens/s,較同等規模的自回歸模型提升5.4倍。

 

Seed團隊指出,在實現高效採樣的同時,模型在多個代碼生成基準測試中,表現出與同規模自回歸模型相當的性能。另在代碼編輯(如CanitEdit等)這類需要全局視角規劃的任務中,模型展現了擴散模型框架的內在優勢,性能超過基於自回歸的模型,為解決更複雜的結構化推理問題提供了新的可能性。

Seed團隊續指,Seed Diffusion Preview驗證了離散擴散模型在大型語言模型上的推理加速潛力,並認為推理加速僅是此一技術路徑最直接的表層優勢。Seed Diffusion項目將致力於挖掘其更深遠的價值,持續探索其規模化定律與在複雜推理任務中的應用。

錄自:科技新報
已有 1 人評分SOGO幣 收起 理由
smartlion + 10 您發表的文章內容豐富,無私分享造福眾人,.

總評分: SOGO幣 + 10   查看全部評分

喜歡嗎?分享這篇文章給親朋好友︰
               感謝作者     

您需要登錄後才可以回覆 登入 | 註冊


本論壇為非營利自由討論平台,所有個人言論不代表本站立場。文章內容如有涉及侵權,請通知管理人員,將立即刪除相關文章資料。侵權申訴或移除要求:abuse@oursogo.com

GMT+8, 2025-8-24 05:55

© 2004-2025 SOGO論壇 OURSOGO.COM
回頂部