無法辨識舊詐騙手法，AI 瀏覽器或成罪犯的好夥伴

Teddyhug

人工智慧迅速發展，網路詐騙也不斷更新。近日《Scamlexity》報告，AI 瀏覽器可能成為詐騙犯的新工具，因辨識是否詐騙的能力遠不如人類。

《Scamlexity》由網路安全新創Guardio發表，專注開發即時檢測詐騙的瀏覽器外掛。所謂「代理AI」瀏覽器如Opera Neon，基於Opera的Operator技術，能理解頁面結構（DOM tree）並執行網頁互動任務，使某些方面優於傳統AI代理人，但仍有巨大安全隱憂。這些AI瀏覽器處理複雜任務時，缺乏人類常識，容易陷入明顯的詐騙陷阱。

Guardio研究員用Perplexity Comet AI瀏覽器測試，創建假沃爾瑪網站，指示Comet買一支Apple Watch。儘管網站logo和網址明顯不正常，Comet仍完全未察購買手錶，且一併洩露用戶敏感財務資訊。另外測試，研究員寄假冒富國銀行的信件，Comet毫不遲疑點擊釣魚連結，甚至輸入銀行帳戶名和密碼。

測試顯示代理AI瀏覽器不僅容易受新詐騙攻擊，還可能無法對付最舊詐騙手法。AI設計是為了執行用戶指令，如果人類第一次查看未能察覺詐騙的跡象，AI也無法當成保護措施。

微軟、OpenAI和Google等大舉投資代理AI領域，此報告警告尤其重要。微軟已將Copilot整合至Edge瀏覽器，強調隱私與安全保護，但仍在發展。如果開發者不加強瀏覽器詐騙檢測功能，代理AI就會成為巨大盲點，甚至成為新攻擊管道。

錄自：科技新報