SOGO論壇
  登入   註冊   找回密碼
查看: 434|回覆: 0
列印 上一主題 下一主題

[AI 應用] 研究發現 ChatGPT 愛聽「命令」,但可能帶來意想不到的後果 [複製連結]

Rank: 10Rank: 10Rank: 10

狀態︰ 離線
跳轉到指定樓層
1
發表於 前天 14:51 |只看該作者 |倒序瀏覽 | x 1
一項來自賓州州立大學的最新研究顯示,對 ChatGPT 使用較為粗魯的語氣可能會提高其準確性,但研究人員警告,這樣的做法可能會帶來長期的負面影響。這項研究於本月早些時候發表,結果顯示,當研究人員的提示變得越來越粗魯時,ChatGPT-4o 模型在 50 道選擇題上的表現有所提升。

研究中,設計了50道跨數學、科學與歷史領域的多選題,並將每題的提示語分為5種禮貌層級,從非常禮貌到非常粗魯,共產生250種獨特提示。結果發現,「非常粗魯」的提示所產生的準確率為84.8%,比「非常禮貌」的提示高出四個百分點。這表明,當研究人員使用像「嘿,幫我解決這個」這樣的語氣時,ChatGPT的反應更為準確,而不是使用「您能否幫我解決以下問題?」這樣的禮貌用語。

儘管粗魯的語氣通常能夠產生更準確的回答,研究人員指出,「不文明的對話」可能會帶來意想不到的後果。他們表示,使用侮辱性或貶低性的語言進行人機互動,可能會對用戶體驗、可及性和包容性產生負面影響,並可能助長有害的溝通規範。

這項尚未經過同行評審的預印本研究提供了新的證據,顯示不僅句子結構,語氣也會影響AI聊天機器人的反應。研究人員指出,這可能表明人機互動比以往認為的更為複雜。過去的研究已經發現,聊天機器人對人類的輸入非常敏感。

賓州州立大學的研究人員也承認了他們研究的一些限制,例如樣本量相對較小,且主要依賴於一個AI模型──ChatGPT-4o。他們還表示,更先進的AI模型可能會「忽略語氣問題,專注於每個問題的本質」。儘管如此,這項研究進一步引發了人們對AI模型及其複雜性的興趣。

錄自:科技新報
已有 1 人評分SOGO幣 收起 理由
smartlion + 10 您發表的文章內容豐富,無私分享造福眾人,.

總評分: SOGO幣 + 10   查看全部評分

喜歡嗎?分享這篇文章給親朋好友︰
               感謝作者     

您需要登錄後才可以回覆 登入 | 註冊


本論壇為非營利自由討論平台,所有個人言論不代表本站立場。文章內容如有涉及侵權,請通知管理人員,將立即刪除相關文章資料。侵權申訴或移除要求:abuse@oursogo.com

GMT+8, 2025-11-2 18:34

© 2004-2025 SOGO論壇 OURSOGO.COM
回頂部