AI 幻覺多到使用者都要麻木，Google 搜尋 AI 摘要將 SCP 基金會創作當成真實事件

無人島

美國科技媒體 Futurism 19 日報導，Google 的 AI Overviews 近期搜尋結果，將 SCP 基金會（SCP Foundation）這類以虛構恐怖設定聞名的網路創作，搞錯成真實事件。AI 產生摘要的多起案例均未說明這些條目是虛構的，甚至引用「官方」文件與紀錄，使用者可能誤以為這些故事是真實事件。

報導指至少 20 個案例顯示 AI Overviews 回應與 SCP（異常事件）相關搜尋時，沒有清楚標示為虛構性。搜尋「SCP-565」時，AI 描述一個會像螃蟹爬行的「異常人類頭顱」，還提到驗屍紀錄與已故男子的身分，甚至導向「官方」SCP 文件；搜尋「SCP-426」時，AI 以第一人稱自稱是那台會讓人用第一人稱談論自己的虛構烤麵包機，連傷害細節都寫得煞有其事。其他點名例子還包括「SCP-922」與「SCP-779」等。

SCP 基金會官網載明內容均屬虛構，但 Futurism 指 Google AI Overviews 多半沒有重申此宣告，有時只模糊提到「lore」或「宇宙」，卻未明確說明是幻想設定。Futurism 刊出報導前曾聯絡 Google，但截稿前未收到回覆。

這並非 Google AI 搜尋第一次出包，以前也常出現日期錯誤、杜撰歷史資訊，甚至有次 AI Overviews 建議披薩醬加入「非毒性膠」這類錯誤建議等誇張失誤。

雖然嘗試重現問題時，部分查詢不再出現相同情況，且 Google AI Mode 會將相關條目標示為「fictional anomaly」（虛構異常），但這起事件仍突顯 AI 搜尋置頂摘要的風險。對不熟悉 SCP 社群的使用者尤其孩童，看似權威的摘要可能直接將恐怖小說當成真實事件。

錄自：科技新報