SOGO論壇

標題: AI 有自戀傾向？為何它總覺得自己的作品最好 [列印本頁]

作者: lionking0809 時間: 2025-8-8 20:20:27 標題: AI 有自戀傾向？為何它總覺得自己的作品最好

在 2025 年的數位環境中，人工智慧（AI）生成的內容無處不在，從新聞文章到市場行銷文案。然而，最近的研究揭示一個引人注目的趨勢：大型語言模型（LLM）對 AI 生成的內容表現出明顯的偏好，這種現象被稱為「自我偏好偏見」。這不僅僅是一個技術上的好奇心，而是正在重塑我們數位生態系統中的資訊流動，往往在我們未意識到的情況下發生。

最新研究（2025年6月TechWalker報導）指出，自我偏好源自注意力機制：模型更傾向將注意力分配給自身生成文本，導致評分偏高。研究中使用的模型包括Meta開發的Llama-3.1-8B及其Instruct版本，並以部分較小模型為「黃金評判者」，但成本限制尚未使用更強大的GPT-4o或Gemini-1.5-Pro，因此偏好評測存在一定局限。

研究顯示，當LLM評估自己的輸出時，往往給予更高的評分，即使人類評估者認為其質量相當。這種現象顯示出機器正在發展出一種算法自戀，這在多個領域中都表現得相當一致。無論是產品描述、新聞文章還是創意內容，AI系統都顯示出對機器生成文本的明顯偏好。

這種偏見的影響令人擔憂。在徵才過程中，AI篩選工具可能無意中偏向那些經過其他AI系統「優化」的簡歷，從而對那些自己撰寫申請的候選人造成歧視。在學術環境中，AI評分系統可能無意中獎勵AI輔助的作業，而懲罰那些雖然不夠完美但卻是真實的人類作品。

更複雜的是，人類的偏好也顯示出矛盾的模式。參與者往往偏好AI生成的回應，但當AI的來源被揭示時，這種偏好顯著減少，這表明評估判斷受到內容來源披露的影響，而不僅僅是其質量。心理實驗表明，若未揭露內容來源，人們偏好AI生成的文本，這類內容普遍經過調教以符合人類認知偏好；但當揭示AI來源後，偏好顯著下降，信任度亦隨之下降，顯示透明度是一把雙刃劍。

在現實世界中，這種對AI披露的不一致反應創造了一個複雜的環境，同樣的內容可能因其來源的呈現方式而受到不同的對待。在健康危機或其他關鍵資訊時刻，這些披露效應可能實際上是生死攸關的問題。

最令人擔憂的不是單一的偏見，而是它們之間的相互作用。隨著AI系統越來越多地訓練於包含AI生成內容的網路數據中，它們實際上在學習偏好自己的「方言」。同時，無意中消費和偏好AI優化內容的人類，逐漸改變了自己的寫作和思維模式。

為了應對這一挑戰，專家建議，投資於混合智慧，建立透明的AI系統，進行偏見審計，以及教育人們理解AI系統與人類思維的差異。這樣的雙重素養將幫助我們在這個AI飽和的世界中，發展出更精緻的關係，並有效地導航於自然與AI之間的複雜性。

錄自：科技新報

歡迎光臨 SOGO論壇 (https://oursogo.com/)