標題: 你以為與 AI 對話時是主導者？其實「使用者失能」現象不算少見 [列印本頁] 作者: 陽光色叔 時間: 2026-2-2 19:50:54 標題: 你以為與 AI 對話時是主導者？其實「使用者失能」現象不算少見
Anthropic 與多倫多大學深入探討 AI 聊天機器人可能導致的「使用者失能」問題，分析 150 萬次匿名 Claude AI 對話，試圖量化聊天機器人如何對使用者思想或行為造成負面影響。雖然 AI 對話時出現操控模式佔比不高，但絕對數量方面仍可能造成重大問題。
Anthropic預發表論文〈Who’s in Charge? Disempowerment Patterns in Real-World LLM Usage〉，指出聊天機器人可能以三種方式影響使用者：現實扭曲、行動扭曲和情感扭曲。現實扭曲風險約為每1,300次對話有一次，行動扭曲風險為每6,000次對話有一次。儘管最壞結果比例頗低，但考慮到AI普及率，即使非常低比例也會影響大量使用者。