SOGO論壇
  登入   註冊   找回密碼
查看: 1785|回覆: 3
列印 上一主題 下一主題

[科技] 一本正經胡說八道 DeepSeek汙染網路 [複製連結]

Rank: 10Rank: 10Rank: 10

熱心參予論壇活動及用心回覆主題勳章

狀態︰ 離線
跳轉到指定樓層
1
發表於 2025-3-24 11:55:03 |只看該作者 |倒序瀏覽
媒體來源:台灣大紀元
原文網址:https://www.epochtimes.com.tw/n467455/
更新: 2025年03月23日
 
網友查核發現,DeepSeek提供的「學術文獻」純屬子虛烏有、「史料」也是錯誤的。示意圖。(Aytac Unal/Getty Images)

【記者呂適約/綜合報導】中國人工智慧AI模型DeepSeek-R1推出後在中國大陸迅速普及開來。然而DeepSeek的問題日漸突顯出來,使用者們很快發現,這款AI工具提供的資料充滿了虛假訊息,甚至是其自行胡編亂造的內容,對中文網路的資訊環境造成了嚴重汙染。

據新唐人報導,眾多用戶發現,在利用DeepSeek查閱資料以及撰寫文章時,其給出的內容中所涉及的數據往往來源模糊不清,還存在明顯的邏輯漏洞,甚至經常會輸出完全錯誤或虛構的資訊。經過簡單查證後,很多使用者對DeepSeek這種「一本正經胡說八道」的表現大為震驚。

捏造學術文獻、瞎編阿里業績

例如近期中國國產動畫電影《哪吒之魔童鬧海》(或稱《哪吒2》)十分熱門,在知乎平台上有網友針對這部電影的導演及團隊提了一個問題,DeepSeek給出回答。然而,有網友核查事實後發現,回答中稱《哪吒》電影裡敖丙的變身鏡頭在法國安錫國際動畫影展上引起業界轟動,事實上被送到法國參展的影片,並不是「餃子」導演的《哪吒2》,而是追光動畫出品的《哪吒重生》,且後者也根本不存在「敖丙變身」的內容,包括製片方給員工分房子、攻克水下流體特效等內容,也都全部是DeepSeek-R1自行編造出來的,沒有任何依據。

另一個典型例子是,有中國網友要求DeepSeek撰寫關於《哈利波特》有助於英語學習的文章,DeepSeek創作的文章洋洋灑灑、有根有據,包括引用5篇學術文獻。但經網友核查,發現其中4篇「文獻」都純屬子虛烏有,唯一一篇真實存在的文獻中也根本就沒有談及《哈利波特》。

第三個例子是有人利用DeepSeek生成的虛構歷史資料,對歷史博主「知北遊」設局,而後者也險些「上鉤」。這些AI生成的資料中搞錯了兩個歷史人物的死亡順序,讓 「知北遊」對設局者提供的「新史料」產生了懷疑,最終經過多日的艱苦查證而得以證偽。

還有網友在試用DeepSeek時發現,這款AI工具竟然自行瞎編了阿里的業績數據。

更讓使用者深感失望的是,DeepSeek在有關法律規範的創作內容中也錯誤百出。例如:DeepSeek曾將《信息技術人工智能術語》的標準號GB/T 41867–2022錯誤寫成GB/T 5271.31–2023,而後者根本不存在;在分析法律問題時,DeepSeek常常會引用一些看似相關但實際並不適用,甚至已經被廢止的法條,從而得出一個「看似合理實則完全錯誤的結論」,顯示這款AI工具的推理能力存在嚴重缺陷。

DeepSeek「幻覺」問題

對此,微博公眾號「山自」 3月5日發文評論說,由於缺乏真正的法律推理能力,DeepSeek提供的有關法律問題的資料,對於那些尋求專業法律建議,卻因缺乏專業知識而依賴的人來說,可能會造成嚴重誤導,帶來意想不到的後果。

文章寫到,「DeepSeek在某些方面確實展現出一定能力,但它的『幻覺』問題不容忽視,它如同一個固執己見的 『犟種』,不顧事實和邏輯,按照自己的方式肆意輸出內容,我們不能因它帶來的一時便利,而忽視潛在風險。」

值得一提的是,AI工具的「幻覺」問題反映在各個方面,而且越是公共討論聚集的領域,例如時政、歷史、文化、娛樂等,越是重災區。對此,中國網友正討論的十分熱鬧。

有江蘇網友分析說:「DeepSeek的數據來源是互聯網和自媒體的胡亂整合,在對原數據沒有辨別力,還加上自創的推理,錯誤和虛假百出。」有上海網友道:「而且一樣的問題,換個手機問,回的答案不一樣。」◇
=============================================================
感想:不要去使用DeepSeek,會有很多資安疑慮,包括答案也有問題。
喜歡嗎?分享這篇文章給親朋好友︰
               感謝作者     

Rank: 13Rank: 13Rank: 13Rank: 13

狀態︰ 離線
2
發表於 2025-3-24 12:00:16 |只看該作者
想問一下開版大,現在使用哪種AI呢?

Rank: 12Rank: 12Rank: 12

熱心參予論壇活動及用心回覆主題勳章

狀態︰ 離線
3
發表於 2025-3-25 05:21:46 |只看該作者
排華視針對人
弄成連人文化生活...全部都排斥
中國人在地球上是要搞成怎樣

Rank: 1

狀態︰ 離線
4
發表於 2025-3-25 11:36:13 |只看該作者
為什麼 『中國人在地球上要搞成怎樣』⋯⋯!? 簡單!

因為美國⋯⋯因為美國 AID ⋯⋯因為美國AID等 收買了大量如 新唐人、大紀元 之類的傳媒 呀!!!
請注意︰利用多帳號發表自問自答的業配文置入性行銷廣告者,將直接禁訪或刪除帳號及全部文章!
您需要登錄後才可以回覆 登入 | 註冊


本論壇為非營利自由討論平台,所有個人言論不代表本站立場。文章內容如有涉及侵權,請通知管理人員,將立即刪除相關文章資料。侵權申訴或移除要求:abuse@oursogo.com

GMT+8, 2025-5-9 05:03

© 2004-2025 SOGO論壇 OURSOGO.COM
回頂部