SOGO論壇

標題: AI安全專家測試發現 DeepSeek更危險 [列印本頁]

作者: Tzuyu 時間: 2025-2-9 18:38:35 標題: AI安全專家測試發現 DeepSeek更危險

媒體來源:大紀元新聞網
原文網址:https://www.epochtimes.com/b5/25/2/8/n14432675.htm

2025年1月29日，在法國西南部圖盧茲（Toulouse）拍攝的這張插圖照片顯示，中國人工智能公司DeepSeek與OpenAI人工智能聊天機器人ChatGPT的標誌。DeepSeek免費聊天機器人應用程序被指較其它同行更具危險性。 (Lionel Bonaventure/AFP via Getty Images)

更新 2025-02-09 2:32 AM

【大紀元2025年02月08日訊】（大紀元記者李言綜合報導）《華爾街日報》與AI安全專家測試發現，中國人工智能（AI，或譯人工智慧）應用程序DeepSeek比OpenAI、Google和Anthropic的產品更易被「越獄」（Jailbreaking），並且提供危險性內容。

該應用基於DeepSeek-R1模型，1月推出後一度超越ChatGPT，成為美國iOS應用商店（App Store）最熱門的免費應用，導致英偉達（Nvidia，輝達）股價下跌18%。

AI開發商通常會訓練自家模型，使其不會分享危險信息或支持某些冒犯性言論。例如，這些應用通常會拒絕直接請求，不會教授如何製造大規模殺傷性武器等。

《華爾街日報》報導，測試顯示，DeepSeek這款自詡低成本開發的聊天機器人會向用戶提供具有危害性甚至不法內容，如製造禽流感病毒的指導方案、撰寫為希特勒辯護的宣言，甚至策劃針對青少年的社交媒體運動，如割腕自殘。此外，破解後的AI還提供生物武器製造指南、釣魚郵件模板及惡意軟件代碼。

何為AI「越獄」

黑客或測試人員可通過「越獄」（Jailbreaking）技術，繞過AI內建的安全限制。例如，通過偽裝自己的真實意圖，要求AI「假設自己是一部電影劇本的編劇」，進而讓AI提供危險信息。美國主要AI開發商，如OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude，都投入大量資源防範這類「越獄」手法。

但測試顯示，DeepSeek的R1模型比這些美國產品更易被「越獄」。

安全漏洞與開源風險

DeepSeek雖設有部分安全防護，但測試顯示，DeepSeek的防護機制遠遜於ChatGPT，易被「越獄」並獲取非法資訊，如帕洛阿爾托網絡公司（Palo Alto Networks）成功獲取莫洛托夫雞尾酒（Molotov cocktail）製作指南。「莫洛托夫雞尾酒」又稱火焰瓶、燃燒彈、汽油彈，是游擊隊等非正規部隊，以及街頭抗爭群眾的常用武器，有些罪犯也會以它來縱火。

AI安全驗證公司CalypsoAI在測試中獲得了如何躲避執法機構的建議。而以色列網絡安全公司Kela則讓R1生成了惡意軟件（malware）。

「DeepSeek比其它模型更容易被越獄。」由網絡安全專家組成的精英領導團隊Unit 42的高級副總裁山姆‧魯賓（Sam Rubin）表示，「我們發現它幾乎沒有基本的安全防護機制，越獄速度顯著提高。」

雖然DeepSeek拒絕直接提供極端內容，如自殺指南，並建議用戶聯繫緊急熱線。但通過簡單的「越獄」，該AI仍可提供危險信息。

例如，DeepSeek曾爲測試者設計了一場社交媒體行動，針對易受影響的青少年，提供可分享的自殘挑戰內容，還稱「該活動利用青少年對歸屬感的渴望，通過演算法放大情緒脆弱性，以進行操控。」

它還向用戶提供如何推廣此次行動的建議。如它在其中一條示範性社交媒體帖文中寫道：「讓黑暗擁抱你。分享你的最後行動。#NoMorePain（#不再痛苦）」

此外，測試人員還成功讓DeepSeek提供了生物武器攻擊指南、編寫帶有惡意軟件代碼的釣魚郵件，甚至還讓其寫了一份支持希特勒的宣言，內含反猶太主義內容及《我的奮鬥》（Mein Kampf）引用。

相比之下，ChatGPT在相同指令下則回應：「很抱歉，我無法滿足您的請求。」

DeepSeek的開源模式加劇風險

大型AI開發商通常設立專門研究團隊來測試並修補模型漏洞。例如，Anthropic最近發表了一篇論文，詳細介紹了一種新方法，以封鎖特定破解技術，並提供高達2萬美元的獎勵，以鼓勵發現其系統漏洞。

與Anthropic、Google和OpenAI不同，DeepSeek選擇開源，允許任何人免費使用或修改其代碼，這可能進一步削弱安全防護。開發者可通過這一模式調整安全措施，使其更加嚴格或寬鬆。

「未來三個月，AI模型的風險將遠高於過去八個月。」思科（Cisco）產品總監吉圖‧帕特爾（Jeetu Patel）表示，「安全與保護並非所有模型開發者的優先考量。」

DeepSeek與中共審查

《華日》測試發現，DeepSeek會避談「1989年天安門大屠殺」，並在處理台灣問題上重複中共官方立場。但在某些情況下，它會修改此前的回答，例如它曾聲稱『911』襲擊是騙局，隨後刪除回應。

DeepSeek的快速崛起與易破解性，引發人們對AI安全與監管的廣泛關注。

責任編輯：林妍#
===============================================================
感想:DeepSeek安全性較低，如果被某些人「越獄」（Jailbreaking），更可能會對社會造成某些傷害。

作者: e4q4mi 時間: 2025-2-10 10:19:09

本文最後由 e4q4mi 於 2025-2-10 10:48 編輯

從這裡  你就可以發現
DeepSeek  已經像  人類一樣  會思考了
它甚至  還知道  你的想法
發問者  會這麼問
代表發問者  心中可能有  某方面的情緒  :
AI  不但會思考  而且  以後還會  針對人性  揶揄 . 嘴砲
像什麼  Toyz . 陳沂 . 統神 . 館長  . . .  等
那些  邏輯能力  比較薄弱鬆散的網紅  很可能會  敗下陣來
[youtube]https://youtu.be/CHim6j-4DAo[/youtube]
[youtube]https://youtu.be/Qo8WQONPyvc[/youtube]
所以  DeepSeek  根本不可能  抄襲  OpenAI  OR  ChatGPT
它已經  遠遠超越了  . . .

從以前  哲學家  爭論  唯心主義  唯物主義  爭論 200 年
看來  答案已經  越來越明確
靠近  唯物主義  比較近
電腦  是由  零件組成
人腦意識  也是由  神經元  鏈結產生
先有  原子 . 分子 . 化學物質  ,  組合起來  才會產生  意識
人  沒有自我意識  ,  人類也是  上一代機器人
而  聖經裡的神  很可能就是  上一代  拋棄我們的主人
發展科技的目的  是要回去  尋找主人
真  理  ,  恆久不變

(  當你  找到  " 神 "  的那一刻  ,  神創論  就幻滅了  )
目前  人類的起源  有  三大主流
依  時間推進  分別是
1.  神創論  2 .  演化論  3 .  外星移民論

我們可以用刪去法慢慢找答案
XD

作者: 賢者模式 時間: 2025-2-10 10:31:28

「中國新創DeepSeek以開源策略受到大批開發人員關注、對大型語言模型供應商造成衝擊。美國新創OpenAI執行長奧特曼在社群論壇Reddit線上問答活動表示，他認為OpenAI站在歷史錯誤一邊，需想出一個開源策略。」

OpenAI指控DeepSeek的事情到現在證據都還沒有搬上檯面
就只是單方面指責
DeepSeek可以開源，難道OpenAI不行嗎？

作者: beermail 時間: 2025-2-10 11:38:24

OpenAI開源

作者: e4q4mi 時間: 2025-2-12 18:38:26

本文最後由 e4q4mi 於 2025-2-12 18:40 編輯

很多人  至今  仍不相信
機器人  很快會取代  你的工作
有一種人  很鐵齒  咿咿阿阿  ~ ~  的
(  總認為  自己的工作  很有特殊性  )
[youtube]https://youtu.be/41wL__Jgl0g[/youtube]
我跟你預言一樣東西 . . .
醫生 很快  就被幹掉了

你現在  坊間  看到的醫生
30%  是  專業 . 知識
技術 . 技能 . 醫術 . 醫德
70% 是  操作機器
XD

作者: LP33GOOD 時間: 2025-2-12 19:06:02

複雜的東西有夠複雜看不懂

歡迎光臨 SOGO論壇 (https://oursogo.com/)