雖然還在理論階段，但研究者已指出多項早期警訊，包括 AI 生成的深偽（Deepfake）內容與假新聞網路。英屬哥倫比亞大學電腦科學家 Kevin Leyton-Brown 提到，這類內容已在美國、台灣、印尼與印度等地的近期選舉討論中出現。與此同時，監測組織也發現親克里姆林宮網路大量散布線上內容，可能意在影響未來 AI 系統的訓練資料與資訊排序。
研究者認為，AI 虛擬人物最令人擔憂之處，不只是能散播特定敘事，而是會改變民眾對網路資訊的信任方式。當使用者越來越難辨識未知帳號的真偽時，名人與大型平台上的既有影響力可能進一步放大，草根聲音則更難突圍。他直言，下一場選舉可能就是檢驗這項技術影響力的關鍵時刻，而民主社會要面對的核心挑戰，是能否在這類 AI 主導的影響行動擴散前及時察覺並加以應對。