- 註冊時間
- 2020-7-2
- 最後登錄
- 2025-8-22
- 主題
- 查看
- 積分
- 955
- 閱讀權限
- 100
- 文章
- 553
- 相冊
- 2
- 日誌
- 1
 
狀態︰
離線 
|
越來越多在使用聊天機器人時，可能會因為發現機器人回答錯誤而追問「你為什麼會犯這個錯？」然而，《Ars Technica》引述最新研究認為這樣做法可能是錯的，也無法獲得準確解釋。
人們通常習慣於向人類詢問錯誤的原因，期待一個有意識、能自省的個體能夠回應，然而，AI聊天機器人並非「有自我」的存在，而是透過統計模型，根據訓練資料生成看似合理的文本回應，當你問AI為什麼會犯錯時，事實上它只是根據過去資料組合一段「 plausibly sounding」的文字，並不知道自身錯在哪裡，也不了解背後真正的邏輯或失誤。
大型語言模型（LLMs）沒有辦法自我審查、沒有對自己訓練過程的認知，也沒有能力真正界定自己的能力範圍，當被要求解釋自己的行為時，AI常常只能根據「以前人類怎麼討論AI錯誤」的語句範本來湊合答案，而不是實際判斷該次錯誤發生的原因。
最新的研究顯示，AI常會高估自己答對問題的機率，即使答案完全錯誤也一樣自信，當研究人員讓AI回答問題後詢問其「自信度」時，發現模型本身幾乎無法區分正確與錯誤的答覆，其自評往往偏離實際表現，僅靠AI「自省」或「反思」來識別錯誤，在目前技術階段幾乎沒有意義。
一些專家建議，與其指望AI自我反省，不如將聊天機器人產生的內容視為初稿工具、草擬助手，當發現錯誤或疑點時，應由人類自己核查、補充、修正，而不是期待從AI口中聽到真實、具體的犯錯原因。
錄自：TN科技島
|
-
總評分: SOGO幣 + 10
查看全部評分
|
發表於 2025-8-14 20:01:34
x 
