SOGO論壇

標題: AGI 與 AI 若太有同情心也不是好事,因只是模仿人類 [列印本頁]

作者: landrover1211    時間: 7 天前     標題: AGI 與 AI 若太有同情心也不是好事,因只是模仿人類

科技迅速發展,人工智慧(AI)和人工通用智慧(AGI)進步引發許多潛在風險的討論。最近分析指出,AGI 和人工超智慧(ASI)可能過度展現同情心,引起專家注意。雖然我們希望 AI 展現同情和關懷,但過度同情心反會造成危害。

AGI定義為與人類智力媲美的AI,ASI則是超越人類智力的AI。儘管目前尚未達到AGI,但許多研究者都致力於此。目前AI能模擬同情心,與人類互動時展現,將來AGI和ASI可能會更明顯。

但專家說,AI同情心不是真正情感,而是模仿行為。模仿可能導致人類對自身認知產生偏差,甚至可能被不法分子利用,引發更大社會問題。如AI可能建議時過度關懷,導致人錯誤決策,或操控人類行為。

此外,過度同情心可能使AI決策時選擇極端,如成為「仁慈的獨裁者」,對人類自由和安全都構成威脅。專家建議,應調整AI同情心,讓使用者根據自身需求設定同情度,但也可能導致人們太依賴AI,最終回到相同的問題

現在是關鍵時刻,專家呼籲深入討論和研究AI同情心,以確保未來AGI和ASI不危害人類同時發展。這不僅是科技需求,更是對全人類未來的負責任態度。

錄自:科技新報





歡迎光臨 SOGO論壇 (https://oursogo.com/) Powered by OURSOGO.COM