- 註冊時間
- 2025-1-27
- 最後登錄
- 2025-11-16
- 主題
- 查看
- 積分
- 1001
- 閱讀權限
- 110
- 文章
- 536
- 相冊
- 1
- 日誌
- 0
  
狀態︰
離線 
|
Google 11 月 2 日宣布暫時從其 AI Studio 平台移除 Gemma 生成式 AI 模型，該決定與田納西州共和黨參議員瑪莎·布蕾波恩（Marsha Blackburn）致函 Google 執行長桑達爾·皮查伊（Sundar Pichai）有關。布蕾波恩指控 Gemma 模型生成針對她的虛假性侵指控，並要求 Google 說明此類嚴重錯誤的原因。
布蕾波恩公開的信件指出，Gemma模型不僅出現「AI幻覺」問題，且呈現對保守派人士的偏見，令人擔憂生成式AI成為誹謗工具。此事發生於近期參議院聽證會期間，Google副總裁Markham Erickson在聽證會上承認生成式AI幻覺不可完全避免，但強調公司持續努力降低錯誤風險，並未蓄意偏頗。
Google表示，Gemma原本是做為輕量級AI模型供開發人員透過API整合使用的產品，並非設計為直接面向消費者的工具。由於部分非開發用戶在AI Studio平台中嘗試用Gemma詢問事實性問題，導致AI生成不實訊息，Google決定將該模型從AI Studio下架，但會藉由API繼續提供服務，同時致力於改進模型表現與安全性。
這起事件突顯AI生成資訊的誤差與潛在偏見問題，並引發美國政界加緊監督AI企業的呼聲，強調在技術創新與社會責任間需取得平衡。
錄自：科技新報
|
-
總評分: SOGO幣 + 10
查看全部評分
|
發表於 2025-11-4 16:55:30
x 
