上傳照片就能模仿本人聲音 中國新AI模型涉侵權爭議

Tzuyu

媒體來源:台灣大紀元
原文網址:https://www.epochtimes.com.tw/n496009/
更新：2026年02月12日
 
AI生成技術快速發展，幾乎到了以假亂真的地步。示意圖。（大紀元製圖）

【記者吳旻洲／台北報導】中國科技巨頭字節跳動近日推出人工智慧（AI）影片生成模型Seedance 2.0，引發熱議，知名中國影音創作者「影視颶風」創辦人潘天鴻實測發現，這款AI竟然在未經授權的情況下，光憑一張面部圖像，就能生成與本人高度匹配的聲音特徵。

於2月低調上線的Seedance 2.0可同步生成影片與聲音，只需輸入指令或上傳參考圖，就能在60秒內產出帶完整原生音軌的多鏡頭影片，功能強大引發討論。

Seedance 2.0被爆2大恐怖

然而，中國科技自媒體影視颶風在YouTube上傳一支影片表示，試用Seedance 2.0後所發現的「恐怖」之處。

首先，潘天鴻表示，他把自己的照片上傳到Seedance 2.0後，生成影片就自動為這張臉配上他的聲音，「這個AI它會自動用我的聲音說話」；但他沒有提供聲音文件，指令中也沒有透露他的身分資訊，甚至沒有告訴系統，照片對應的人是誰，「但AI竟然知道這張臉的聲音是我的這個聲音」。

再來，潘天鴻還發現，他上傳一張帶有公司部分場景的全身照，但Seedance 2.0生成的影片，竟能以人物為中心進行運鏡，轉向大樓的另一面，而且與現實場景幾乎一模一樣。

「這不恐怖嗎？它（指AI）知道我背後的東西是什麼，即便我沒有告訴它。」潘天鴻認為，Seedance 2.0大量使用他們公司的影片進行訓練，但卻沒有對相關素材申請授權，也沒有字節跳動的工作人員聯繫他進行版權申請。
 
AI生成技術快速發展，幾乎到了以假亂真的地步。示意圖。（Shutterstock）

字節跳動急限制生成真人功能

潘天鴻也提醒，當一個人上傳到網路的資訊進入AI數據集，並且AI能百分之百模擬出一個人的任何形態以及聲音，「那請問這樣的內容，你的家人分得出真假嗎？」

影片下方網友留言表示，「現在除了比誰錢多買晶片，就是比誰道德底線更低、盜用更多東西訓練模型」、「AI最終不是技術問題，而是道德和侵權問題」。

面對相關爭議，中國媒體《中國經營報》表示，字節跳動已於9日暫停支持用戶上傳真人圖片或影片作為主體參考，並限制僅在完成活體認證後方可生成真人形象影片，同時對名人、知名IP的影片生成進行嚴格審核。

專家：立法速度遠落後科技

陽明交大資工系終身講座教授林一平接受《大紀元》採訪時坦言，這類技術真的非常厲害，是多種AI能力整合的結果，包括語音合成、聲紋辨識、少樣本學習、影像辨識與場景推測等。只要網路上已有公開影片與聲音資料，系統便可透過爬蟲抓取並建立聲音模型，再輸入任意文字生成近似本人語音。

「如果是網紅，公開影片本來就很多，AI學習並不困難。」林一平表示，這與人類模仿他人聲音的原理類似，只是機器模仿的精準度遠高於人類。

至於照片生成全景的技術，林一平說，AI可透過影像辨識公司標誌、建築特徵，甚至讀取照片內的GPS定位資訊（EXIF資料），再比對公開資料庫進行場景補完。「這不是偷到機密，而是利用公開資訊拼湊重建。」

然而，技術突破也讓法律面臨挑戰。林一平表示，目前最大問題在於「法律定義已落後於技術能力」。他解釋，AI學的是公開資料，如果沒有明確法律禁止，就很難說它違法，真正構成違法的往往不是模仿本身，而是用途，例如涉及誹謗、詐騙、深偽不雅影像等。
 
AI生成技術快速發展，幾乎到了以假亂真的地步。示意圖。（123RF）

AI深偽恐成選舉干擾工具

更令人憂心的是，這類技術可能被用於認知作戰與政治操作。林一平表示，以目前技術水準，完全可以製作逼真的假候選人影片或錄音，在選舉期間散布假訊息，「這已不是單純科技問題，而是國安問題」。

林一平表示，若AI資料庫設於境外、甚至敵對國家，則風險更為複雜，包括：聲紋資料大量蒐集、個資整合分析、精準詐騙、認知戰操作、選舉干擾等，「技術上做得到，至於會不會發生，取決於政治與法律防線是否跟得上。」

防AI盜用 個資盡量別傳網路

至於該如何防範個資遭AI盜用？林一平表示，政府除了要加速制定主權AI、資安防治、訂定專法之外，他建議民眾盡量不要把個資放到網路上，即便只是上傳一張照片，都會附帶GPS的定位資訊，以當前科技無所不在的環境，若真想完全杜絕，可能只有回歸傳統，用紙本印刷的方式才行。◇
==================================================================
感想:AI科技雖然發達，但如果不加以限制用途，很有可能會淪為詐騙手段或影響國家安全。

good123456789tw

看來這世界已經越來越可怕了

maze833

到最後恐怕沒有AI做不到的事呀

e4q4mi

AI  熱  ,  有沒有可能  到頭一場空  ?
有   阿
因為過去  常常一陣流行  到後來  一場空的案例
多  ,  不 勝 枚 舉

不要覺得  那些科學家  或  高端菁英人士
掌 握 了 什 麼
根據  過往案例
有可能  一切都只是  烏龍而已
XD

e4q4mi

如果  欺農豬
用  AI  做成  真人電影
質感  會是怎麼樣  ?  . . .

大 概 就 是 醬
變 成  ,  邵氏功夫電影
XD

e4q4mi

我覺得  現代人
不相信  機器人  未來會變  真人
是因為  卡在一種地方喇

太過於  高估  靈長類動物

它們認為  靈長類動物  
富有感情  以及思想  太高端了
智慧來源  不可能透過
像  A I  這種  
一步步  糾錯  錯誤中學習  矯正  累積而來
日後  演變成你  ,  獨立個體思想

但是  你想想看
你小時候  不也  無意識  ?
長大後  比較會思考  ,  也是  步步糾錯  累積起來
難道  你是從  石坑  或  糞坑中  
一口氣  蹦出來的  ?
最近老高  不也一部  新影片
就是在  述說  這個原理  ?
為什麼  地球上大系統  足以維持
搬到火星  科家學模擬的  小系統  立即崩塌
那就是  黑格爾的思想阿
黑格爾  當時看著  以前那批哲學家  口中總是念念有詞
哎呀  如果以前  某某段路  不要走  ,  省去  中間那一段  人類未來一定  更光明  前途更美好
它就很  鄙視這種想法

它認為  人之所以  步步走到今天
其  存在元素  各各勢必  都有它道理存在  ,  不會是  無作工的
人類就是目前  成功案例
但是  它早已忘記  自己從前也是  這般來的
(  大部分  90%  的人  都是  唯心主義  ,  不是  唯物主義的  )
(  唯物主義  就是說  :  先有  電晶體  電路  元件  ,  連接起來  才有網路  電腦  )
(  先有腦神經  神經元  連接起來  才有思想  )
它們認為  意識  是一口氣  噴發的
XD

pushman

現在很多短影音都是用ai製作的
吸引眼球衝流量
臉書還有"我是xx人"的社群也使用ai生成照片在帶風向

e4q4mi

以前  日本有個時代  叫做
大友克洋   時代

就是  動畫裡  常常會出現  神魔題材
也就是  永生  AI  人造人  吸血鬼  
輪迴  變異人  重生  探索外星球
比較灰暗   模擬未來   人類絕望的畫面  

完全不知道  為什麼耶
我聽  AI  講  它是說
情有可原  因為那時候  日本當代  未知變數高  
人心徬徨  故  較容易出現  ,  哲學性幻想
我覺得  有幾部  我看完以後  毛骨悚然  ,  覺得  挺恐怖的
比方說  人類很早  就知道  有限壽命  無法穿越太陽系
故很早  就在太空艙裡  設定  冰凍棺材
駕駛員  在指定時間  到了  躺進去  ,  剩下全由  AI  無人駕駛  自駕
50 年後  冰封的棺材  打開了  人類甦醒
本來  興高采烈  要前往  目的地星球
怎知  降落前一刻  太空艙裡  出現叛徒
那名叛徒  冰封期間  作了一個夢  思想不知為啥  突然改變  醒來後  想要殺死隊友
但是  它們都在  互相猜忌  不知道那人  到底是誰
最後  為了逃避追殺  其餘人等  慌亂之下  又躲回了  冰封棺材
機器人為保人類性命  唯獨  太空梭機器人  知道真相  有一天  偷偷將  冰封棺材  擲出  脫離太空梭
任憑  最後命運  看五人  最終降落到何處  哪個星球
那個棺材  太空漂浮這幾天期間  動畫還有看到  這幾個人在  孤獨漆黑的太空中  還在  猜忌懷疑
五個人  一路走來  情同手足  怎可能發生這種事
阿那個機器人  將棺材丟出  飄浮
那艘太空梭  就被有心人暗算  爆炸了  葬身火海
(  最後那六人  還是有相遇喇  但是  餘生是降落在  不同國度  所以  想法價值觀  全然不一樣  )
很恐怖   色調很灰暗的   一部動畫
連   曲調都是   非常悲傷的
XD

maze833

所以說永遠只會慢半拍
到最後什麼變成AI

e4q4mi

現在  YT  觀眾  ,  都 可 以
大 量 購 買 了
(  有錢能使鬼推磨   沒有啥事   辦不到  )
當有人  買網軍  送你時
你就要  裝得很像  氣勢和派頭  要  假  出來
像她這樣  就是失敗的  很容易穿幫

館長去上海  前幾天
錫蘭也有說  館長可能  購買觀眾
那個數字要買下來  會花不少錢
可能是  大陸官方  幫它買  送給它的
但是  ....  你不要懷疑
錫蘭本人  並沒有政治傾向
它是  在螢幕前  聚精會神  觀察
據說  某一段時間  突然有發現  底下數字  浮動跳動的  ...  端 倪
(  詳細  如何詭異跳動  ,  那過程  必須去問他本人  才會知道  )
我本喵  並不清楚  我只大聲公  負責講八卦
XD