詐騙粉專約有160萬帳號可用 數發部：用AI技術防制AI詐騙

Tzuyu

媒體來源:台灣大紀元
原文網址:https://www.epochtimes.com.tw/n446201/
更新：2024年07月19日
 
數位發展部19日在台南歸仁的資安院沙崙院區舉行資安院AI打詐技術發表會。（數位發展部提供）

【記者戴德蔓／報導】數位發展部19日表示，根據AI偵測的結果，目前有投放過詐騙廣告的粉專帳號大約有1.6萬個，推算背後有160萬個帳號可以發派使用，可以稱之為百萬機器人大軍。對此，數發部次長林宜敬表示，數發部運用先進科技手段多管齊下，以AI技術防制AI詐騙，快速識別詐騙訊息，提前預測並防範潛在的詐騙行為，遏制AI網路詐騙的蔓延與擴散。

數發部19日舉行資安院AI打詐技術發表會，數發部轄下國家資通安全研究院指出，生成式AI使得詐騙文本的生成變成自動化，機器人帳號大量投放詐騙廣告並留言與按讚，營造出文章受到群眾踴躍支持的假象，還可以在社團、群組發文，增加機器人帳號的活動範圍和影響力，為了躲追查，機器人帳號也會修改用戶資訊，頻繁更換個人檔案、照片和活動模式，掩飾其真實身分。

資安院副院長林盈達表示，必須透過AI對抗AI。根據AI偵測的結果，目前投放過詐騙廣告的粉專帳號大約有1.6萬個，隨機選取其中1千個來比對，可發現特徵類似但尚未投放過詐騙廣告的粉專帳號大約有10萬個，所以推估在1.6萬個投放過詐騙廣告帳號背後，還有160萬個帳號可以發派使用，每天投放5千到1萬則只存活一至兩天的詐騙廣告，並營造群眾多樣性與熱度，還會利用同溫層來免費傳播。
如何從源頭打擊AI詐騙？林盈達表示，末端清掃的策略只能下架詐騙廣告，但也要夠快、夠自動化才能處理每天數千則廣告，不太可能處理160萬個機器人帳號。

林盈達說，從源頭打擊的策略必須在粉專帳號投放廣告時，由廣告代理商進行第二層粉專帳號或真實帳號驗證機制，不能只是平台業者對廣告代理商做第一層驗證。剛通過的打詐專法已經賦予上述策略的法律工具。

資安院數位訊息組經理江禹賢表示，數發部委託資安院研發「詐騙關鍵字提取、資料探勘深化、訊息溯源」等系列打詐技術，透過結合大數據分析、人工智慧和機器學習等各項前瞻技術，能有效協助相關單位快速識別和分析潛在詐騙威脅。

江禹賢說，AI技術能偽造文字、影音和圖像，也能提供強大的檢測和過濾工具，有效識別和清除機器人帳號。面對不斷推陳出新的詐騙手法，需要技術、法規和國際等多方面努力，才能有效遏制詐騙行為。◇
=============================================================
感想:假設有160萬個帳號是受到程式控制的機器人帳號，那麼數發部的AI技術要如何去應對這麼龐大數量的假帳號。資安院副院長提的這個第二層驗證，個人覺得是有必要。像現在很多網站的帳號都有雙層驗證機制，第一層是傳統的帳號密碼，第二層可能是手機簡訊驗證或E-mail收認證碼驗證。要投放廣告的帳號，必須經過實名驗證之後，才能投放廣告，這樣可以減少一部分假帳號。但詐騙集團可能也擁有許多人頭帳戶，收買了很多民眾個資，這部分就很難防範。