SOGO論壇
  登入   註冊   找回密碼
查看: 2231|回覆: 0
列印 上一主題 下一主題

[AI 應用] OpenAI 首款開源 CoT 模型登場,可搭載 Snapdragon 裝置端本地推理 [複製連結]

Rank: 10Rank: 10Rank: 10

狀態︰ 離線
跳轉到指定樓層
1
發表於 2025-8-14 19:58:42 |只看該作者 |倒序瀏覽 | x 1
OpenAI 推出首款開源推理思維鏈(chain-of-thought,簡稱 CoT)模型「gpt-oss-20b」,此模型可直接在搭載 Snapdragon 旗艦處理器的裝置上運行。高通指出,這是一次重大進展,過去 OpenAI 先進模型僅限於雲端運行,這次首度讓模型可在裝置端進行推理。

高通已取得該模型的提前存取權,並與高通 AI 疊層(Qualcomm AI Stack)和 AI 引擎進行整合測試。測試結果相當出色。完整的思維鏈推理能完全在裝置上運行,無須依賴雲端。此模型不僅快速、具隱私性,也為在手機上的個人化智慧代理體驗開創新的可能。

高通指出,開發者將可在發佈當日,透過 Hugging Face 和 Ollama 存取 gpt-oss-20b,近期也將在 Qualcomm AI Hub 公布更多部署細節。與Ollama整合,也代表像是網路搜尋、渦輪模式(Turbo Mode)等開箱即用功能也已經整合完成。

高通認為,未來幾年,隨著行動裝置的記憶體容量持續成長、軟體堆疊愈加高效,裝置端 AI 的能力將快速提升,AI 助理也將會無所不在、個人化,並且能在裝置端運行。

錄自:科技新報

已有 1 人評分SOGO幣 收起 理由
smartlion + 10 您發表的文章內容豐富,無私分享造福眾人,.

總評分: SOGO幣 + 10   查看全部評分

喜歡嗎?分享這篇文章給親朋好友︰
               感謝作者     

您需要登錄後才可以回覆 登入 | 註冊


本論壇為非營利自由討論平台,所有個人言論不代表本站立場。文章內容如有涉及侵權,請通知管理人員,將立即刪除相關文章資料。侵權申訴或移除要求:abuse@oursogo.com

GMT+8, 2025-8-24 05:49

© 2004-2025 SOGO論壇 OURSOGO.COM
回頂部