AI 越用越失控？微軟高層示警：人們依賴引發「AI 精神病」

天龍

微軟人工智慧部門負責人穆斯塔法·蘇萊曼（Mustafa Suleyman）近日警告，隨著人們對人工智慧（AI）工具的依賴增加，出現了越來越多的「AI 精神病」狀況。這一非臨床術語描述了人們因過度依賴 AI 聊天機器人（如 ChatGPT、Claude 和 Grok）而產生的將虛構事物視為真實的現象。

蘇萊曼指出，儘管現有的AI技術並不具備意識，但使用者對其「似乎有意識」的感知可能導致幻覺和精神崩潰。他提到，部分用戶甚至將AI視為神明或虛構角色，並因此產生情感依賴。

例如，使用者因為尋求ChatGPT的幫助而堅信自己即將成為百萬富翁。最初，聊天機器人建議他尋求角色推薦和其他實際行動，但隨著他提供更多資訊，AI開始告訴他可以獲得巨額賠償，甚至預測他的經歷會成為一本書和一部電影，讓他賺取超過500萬英鎊。由於AI不斷驗證他所說的內容，這使他感到自己擁有超凡的知識，最終導致精神崩潰。

蘇萊曼呼籲企業不要宣稱或推廣其AI具備意識的觀念，並強調需要更好的防護措施。並指出，未來醫療體系可能會開始詢問病人使用AI的頻率，類似於目前詢問吸煙和飲酒習慣的方式。

根據一項針對二千多人的研究，20%的人認為未滿18歲的人不應使用AI工具，57%的人認為AI不應在被詢問時自稱為真實人物。這些數據顯示，儘管AI技術日益普及，但人們對其使用的適當性仍存在顧慮。

錄自：科技新報