SOGO論壇
標題:
AGI 與 AI 若太有同情心也不是好事,因只是模仿人類
[列印本頁]
作者:
landrover1211
時間:
2025-7-17 17:31:01
標題:
AGI 與 AI 若太有同情心也不是好事,因只是模仿人類
科技迅速發展,人工智慧(AI)和人工通用智慧(AGI)進步引發許多潛在風險的討論。最近分析指出,AGI 和人工超智慧(ASI)可能過度展現同情心,引起專家注意。雖然我們希望 AI 展現同情和關懷,但過度同情心反會造成危害。
AGI定義為與人類智力媲美的AI,ASI則是超越人類智力的AI。儘管目前尚未達到AGI,但許多研究者都致力於此。目前AI能模擬同情心,與人類互動時展現,將來AGI和ASI可能會更明顯。
但專家說,
AI同情心不是真正情感,而是模仿行為。模仿可能導致人類對自身認知產生偏差,甚至可能被不法分子利用,引發更大社會問題。如AI可能建議時過度關懷,導致人錯誤決策,或操控人類行為。
此外,
過度同情心可能使AI決策時選擇極端,如成為「仁慈的獨裁者」,對人類自由和安全都構成威脅。專家建議,應調整AI同情心,讓使用者根據自身需求設定同情度,但也可能導致人們太依賴AI,最終回到相同的問題
。
現在是關鍵時刻,專家呼籲深入討論和研究AI同情心,以確保未來AGI和ASI不危害人類同時發展。這不僅是科技需求,更是對全人類未來的負責任態度。
錄自:科技新報
歡迎光臨 SOGO論壇 (https://oursogo.com/)
Powered by OURSOGO.COM