標題: 其實駭客比你更討厭 AI 垃圾──地下論壇也充斥低品質 AI 內容 [列印本頁] 作者: 陽光先生 時間: 前天 16:41標題: 其實駭客比你更討厭 AI 垃圾──地下論壇也充斥低品質 AI 內容
最新研究指出，網路犯罪社群出現一股罕見的「反 AI」情緒，不少地下論壇與駭客群組抱怨，生成式 AI 內容充斥討論版，不僅品質低落，還影響社群互動與論壇經營；有人甚至直接要求版主「停止貼 AI 廢文」。
愛丁堡大學等團隊分析，蒐集 ChatGPT 於 2022 年推出後至去年底的 97,895 筆 AI 相關地下論壇討論，並以 CrimeBB 等網路犯罪論壇資料為基礎，顯示低階網路犯罪者雖然對 AI 充滿好奇，實際運用卻不如外界預期。研究指出，許多討論集中基礎資安概念的條列式說明、低品質貼文氾濫，以及 Google AI 搜尋摘要可能減少論壇流量等抱怨。
研究共同作者、愛丁堡大學安全研究人員 Ben Collier 表示，這些論壇本質上也是社交空間，使用者希望與真人互動，而不是面對 AI 內容；若有人想靠 AI 產生教學文提高自己圈內的聲望，反而可能破壞原有社群動態。部分貼文也反映，許多成員在意的是「人味」與可信度，而不是讓 AI 代寫整個討論串。
儘管如此，AI 並未完全缺席地下經濟。研究發現，AI 較明顯用途仍集中較易自動化的領域，如社群媒體機器人、部分愛情詐騙、SEO 詐欺，以及製作假網站用廣告牟利。另一方面，較成熟的攻擊者多半使用主流商業工具，如 Anthropic Claude 或 OpenAI Codex，並嘗試繞過各安全限制；但研究員指出，主流模型的保護機制仍很有效，許多犯罪者不得不轉向較舊、品質較差、更耗資源的開源模型。
整體看來，研究認為 AI 尚未大幅降低犯罪門檻，也沒有衝擊既有網路犯罪商業模式。相較外界擔憂 AI 會快速放大駭客能力，現在更直接的風險，反而可能來自合法組織或一般使用者使用防護不足的 AI 系統，讓攻擊者找到漏洞有機可乘。