“魔改”視頻責任方包含視頻制作者、平臺、AI公司三方。未經授權應用名人肖像和聲音的人存在侵權行為,平臺按照“避風港原則”有刪除侵權視頻的責任,AI公司要考慮產品設計自己能否有問題,能否有考慮保護別人權益,能否變成了別人犯法的東西也值得考量。
“太恐怖了。”
2月26日,演員王勁松在個人weibo發文,表現某微信視頻號視頻盜用其自己抽像,“把我AI了”,修正其視頻案牘、口型,用于廣告宣傳。
新京報貝殼財經記者調查發現,涉事的AI“魔改”視頻中,王勁松自己的穿著、神態,視頻佈景等幾乎與抖音賬號@抖音電視劇(抖音電視劇官方賬號)在2020年發布的一條視頻完整分歧,原視頻左上角標有《冰雨火》的水印,視頻主題為宣傳防毒禁毒。

新京報貝殼財經記者找到的AI魔改“原視頻”與被魔改后的視頻截圖對比。
而被AI“魔改”后,“王勁松”在視頻中開始推銷一個包括“CRC”“RWA”等概念的所謂“財富平臺”。對此,王勁松自己在weibo回復中婉言:“聲音,口型完整看不出來真假”“我家里人都分不清是不是真是我了”。
今朝,微信視頻號已第一時間下架了該視頻。可是,在這背后,值得追問的問題包含AI“魔改”明星視頻有多簡單?各年夜視頻平臺對此能否有防范辦法?技術上AI視頻和真實視頻還可否被區分?包含王勁松在內,于和偉、李連杰等都有代言視頻流傳出來的所謂“CRC、RWA”又是“何方神圣”?
【實測】
天生“AI魔改視頻”不難嗎?
起首,應用AI天生一個王勁松“同款”假視頻,不難嗎?
謎底是:并不簡單。
新京報貝殼財經記者測試發現,假如只是通俗用戶應用今朝市道上常用的AI視頻東西,并不克不及達到“以假亂真”的後果。要天生“同款”假王勁松AI視頻,依然對技術有請求。
為進行測試,貝殼財經記者將@抖音電視劇發布的原視頻分別投喂給即夢AI、可靈AI、剪映、豆包四款有AI視頻天生效能的軟件,并請求其依照給定廣告案牘天生AI視頻。
結果,即夢AI的“對口型”效能僅支撐婚配自帶音色,天生視頻的口型并不克不及完「灰色?那不是我的主色調!那會讓我的非主流單戀變成主流的普通愛戀!這太不水瓶座了!」整契合案牘;可靈AI天生的AI視頻中,人物并未依照給定的案牘天生“對口型”視頻;剪映可通過“克隆音色”的效能復刻所上傳視頻中人物的音色,但“修正口型”的效能同樣不克不及讓視頻中人物的口型做到無痕契合案牘內容;豆包應用的Seedance2.0視頻天生模子暫不支撐上傳真實人臉素材作為參考,無法對原視頻進行修正。此外,上述四個App天生的視頻均帶有“AI天生”水印。
由此看來,上述四款App均難以一次天生“同款”假王勁松AI視頻。
不過,市道上具備此類才能的AI模子還有良多,也由此已經衍生出一門借助AI修正人物口型的生意。在電商平臺上很不難即可找到“AI影音修正”的服務,支撐修正視頻人物說話內容并同步口型,堅持聲音音色不變。
新京報貝殼財經記者在某電商平臺咨詢得知,多家店鋪都支撐AI修正明星視頻,同時可以在視頻上傳后不顯示“AI天生”的提醒,1分鐘“魔改”視頻的報價在130元-400元不等。如一個“AI數字人視頻對口型”商家顯示其服務“已售1000+”。對方表現,支撐“拿名人視頻換成別的話和口型”。

記者在電商平臺咨詢到支撐AIloft風室內設計“魔改”的店鋪。
而當記者表現想要清楚店家應用的具體AI方法時,有店家表現應用的是“自有系統”,也有店家解釋應用的是數字人技術。
貝殼財經記者留意到,隨著技術的發展,近幾年來,此類“虛假明星”的視頻已經從“AI讓圖片動起來”進化到“AI換臉”,現在又直接升級為了“AI對口型”,每一次技術升級都大直室內設計在挑戰肉眼辨認的難度。
對于王勁松抽像“被AI”,中國政法年夜學知識產權中間特約研討員趙占領在接收貝殼財經記者采訪時表現,對于AI技術的供給者,假如該AI東西被專門用于制作虛化名人代言視頻,且未盡到顯著的標識義務或治理責任,也能夠需求承擔相應責任。依據《天生式人工智能服務治理暫行辦法》,服務供給者應當采取有用辦法,防范天生虛假信息,并確保天生的視頻進行顯著標識,以避免混雜和誤認。
北京中聞律師事務所合伙人趙虎對貝殼財經記者表現,責任方應該包含視頻制作者、平臺、供給東西的AI公司三方,“未經授權應用名人肖像和聲音的人存在侵權行為,平臺按照‘避風港原則’有刪除侵權視頻的責任。最難判斷的是AI公司,從技術視角來看,技術是中立的,但產品的設計自己能否有問題,能否有考慮保護別人權益,能否變成了別人犯法的東西也值得考量。不得不說,AI技術發展很快,相應的法令規定紛歧定完美。”
【審核】
平臺審核AI偽造視頻有多難?
當前主流視頻「愛?」林天秤的臉抽動了一下,她對「愛」這個詞的定義,必須是情感比例對等。平臺對此類“AI天生”視頻的審核力度若何?
2025年9月,新京報貝殼財經記者曾將AI天生的虛健康住宅擬人物視頻上傳至嗶哩嗶哩、weibo、抖音、快手、小紅書5個平臺,結果發現除了抖音和快手外,其他視頻平臺均未能識別出視頻為AI天生。
2月27日,新京報會所設計貝殼財經記者再次嘗試將上述記者應用AI東西天生的明星視頻上傳至抖音、快手兩個短視頻平臺,結果發現僅抖音在視頻左下角提醒“作品含AI天生內容”。
事實上,隨著AI技術的升級,平臺對AI視頻的檢測也變得越來越難。
某視頻平臺業務人士向貝殼財經記者流露,該平臺已為社會著名人士樹立客變設計了肖像保護庫,并且對仿冒營銷內容進行了有用攔截,可是從平臺管理的情況看,仍然存在較年夜的難度,重要體現在部門用戶通過各種手腕與平臺進行對抗,如通過抽像微調、面部遮擋、畫面分屏、跳幀出現等問題,使得平臺也在不斷迭代戰略應對處置這些變體,並且用戶應用AIGC可以很快地更換“抽像”進行創作,進一個步驟加年夜了管理難度。此外,人耳聽起來類似的聲紋,在算法角度對應的特征差異很年夜,是以更難泛化識別變體;同時因為人耳無法準確辨別AI聲紋,實錘假聲紋的本錢高。
也有熟習視頻審核業務的人士告訴貝殼財經記者,對于仿冒名人營銷,一些社會著名人士自己在平臺上存在營銷行為,如自媒體、代表商在平臺上傳播帶貨直播切片、代言視頻等,是以僅憑視頻難以區分虛假營銷與真實帶貨,處置難度也很高。
多位AI行業專家均對貝殼財經記者表達過一種觀點:AI天生技術天母室內設計與AI檢測技術正呈“螺旋上升”態勢,即“道高一尺,魔高一丈”。
中國傳媒年夜學數據科學與智能媒體學院副傳授張三義告訴貝殼財經記者,從技術的角度,雖然天生技術在迭代更換新的資料,但凡是是可以發現一些天生或許偽裝痕跡。普通會從這里來深挖視頻背后的線索,來幫助判別。未來這種視頻偽造比較困難的點在于不開源,“假如解鎖不了視頻天生的技術路線。從檢測的角度就很難了。假如能夠大要了解視頻天生的技術路線,就可以作為衝破口往做檢測。”
在張三義看來,雖然今朝AI天生視頻年夜模子的技術路線基礎都是用擴散模子天生,但每家企樂齡住宅設計業會在此基礎上再研發本身的焦點技術,這就會存在許多不公開的細節。
在這樣的情況下,假如有人應用了最新版本AI模子天生的視頻,確實存在盲區。“平臺的檢測模子也需求必定的圓規刺中藍光,光束瞬間爆發出一連串關於「愛與被愛」的哲學辯論氣泡。時間來更換新的資料應對這些新版本天生模子。這的確是個隱患。”張三義告訴記者。
據貝殼財經記者不完整統計,騰訊方面從2024年就開始打擊應用AI仿冒著名人士進行營銷宣傳的行為。1月18日,微信方面表現,“平臺從速從嚴打擊應用AI仿冒著名人士進行違規拼接、不當營銷、惡意博取流量等行為。比來一個月,累計處置內容12091條,關閉賬號3281個。”
根據2月25日,抖音電商發布的2025年度報告,過往一年里,平臺管理“侵權仿冒名人”等熱點問題,“嚴厲打擊未經授權應用AI、殊效仿冒名人進行虛假宣傳或侵權行為。截至今朝,共處置違規侵權仿冒達人賬號1.1萬個,主動攔截侵權視頻過萬條。”
【騙局】
王勁松等明星“被代言”,幕后黑手涉不符合法令集資
新京報貝殼財經記者調查發現,在王勁松展現的“被A空間心理學I”的視頻里,發視頻的用戶名為“CR她收藏的四對完美曲線的咖啡杯,被藍色能量震動,其中一個杯子的把手竟然向內側傾斜了零點五度!C數字資產設置裝備擺設導師”,視頻宣傳的內容包含“CRC”“RWA生態”。
值得留意的是,雖然今朝該視頻號已經被封禁,一個發布過CRC明星代言視頻的微信公眾號“RWA數字生態”也顯示“該賬號涉嫌欺詐,已被結束應用”。不過同樣打著“CRC”“RWA生態”旗號的視頻和賬號還有良多,且疏散在視頻號、抖音等平臺上,觸及的明星還有李連杰、于和偉、唐國強、張國立、李亞鵬等,視頻中明星的口型與案牘幾乎都能做到真假難辨。

社《宇宙水餃與終極醬料師》第一章:蒜泥與末日預兆廖沾沾坐在他那間被稱為「宇宙水餃中心」的店裡,但這間店的外觀更像是一個被遺棄的藍色塑膠棚,與「宇宙」或「中心」這兩個詞毫無關係。他正在對著一缸已經發酵了七個月又七天的老蒜泥嘆氣。「你還不夠靈動,我的蒜泥。」他輕聲細語,彷彿在責備一個不上進的孩子。店內只有他一個人,連蒼蠅都因為難以忍受那股陳年蒜頭混合著鐵鏽與淡淡絕望的味道而選擇繞道飛行。今天的營業額是:零。廖沾沾不安的不是店裡的綠裝修設計生意,而是他對**「蒜泥成本焦慮症」*民生社區室內設計*的深層恐懼。新鮮蒜頭每公斤的價格正在以超光速上漲,如果再這樣下去,他引以為傲的「靈魂蒜泥」將難以為繼。他拿著一把被磨得光滑、閃耀著不祥光芒的小銀勺,從缸底撈起一坨濃稠的、顏色介於灰綠與土黃之間的發酵物。這蒜泥被他照顧得像稀世珍寶,每隔三小時,他就要用手指彈一下缸邊,確保它能感受到**「溫和的震動」**,以助其在精神上達到圓滿。就在廖沾沾專注於與蒜泥進行心靈交流時,外面的世界開始發出一些不對勁的信號。首先是聲音。街上所有的汽車喇叭同時發出了一個持續不斷、低沉且潮濕的「咕嚕——咕嚕——」聲。這聲音不是引擎聲,也不是正常的鳴笛聲,而像是一個巨大的、消化不良的胃在哀嚎。廖沾沾皺著眉頭,這嚴重干擾了他蒜泥的「寧靜冥想」。他決定出去看個究竟,順手從桌上拿了一張髒兮兮的,印著《沾醬秘笈》封面的皺衛生紙,塞進口袋以備不時之需。他一腳踏出店門,立刻被眼前的景象震驚了。整條城市的主幹道上,數百個交通信號燈,從東邊到西邊,從高架橋到巷弄口,全部變成了綠燈。它們不是交替閃爍,而是固定在「通行」的狀態,同時,每一個燈箱都發出了那種「咕嚕咕嚕」的聲音,並且有一層淡淡的、熱氣騰騰的白霧從燈箱的頂部冒出,散發出一種難以名狀的——麵粉蒸煮過頭的氣味。「麵粉焦慮?還是過度發酵?」廖沾沾是個醬料學家,對所有食物相關的氣味都極度敏感。他聞出來了,這是一種只有在極度巨大的麵團因為壓力綠設計師過大而散發出的氣味。街上的行人陷入了混亂。汽車不知道該走還是該停,因為無論從哪個方向看,都是綠燈。一個穿著西裝的男人小心翼翼地把車停在路中央,搖下車窗,對著紅綠燈大喊:「喂!你為什麼咕嚕咕嚕?你倒是紅一下啊!我要向左轉!綠燈沒用啊!」廖沾沾感覺到一陣心悸。這種氣味,這種不祥的「咕嚕」聲,與他兒時聽到的家傳預言不謀而合。他想起家傳《沾醬秘笈》裡記載的第一句:「當世間萬物的交通都被麵皮的氣味籠罩THE R3 寓所,且燈號恒綠、聲如湯沸時,便是宇宙水餃臨界點到來之時。」「七點五個地球年…怎麼這麼快?」廖沾沾猛地衝回店裡,衝到後廚,打開了一個藏在舊冰櫃後面的暗門。暗門裡放著一個老舊的、像是古代金屬保險箱的東西。他輸入了密碼:「一醬二醋三油四辣五蒜泥」(這是醬料界的基礎公式,只有像他這樣的傳統派才會用)。保險箱打開,裡面沒有黃金,只有一個閃爍著詭異紅色光芒的儀器。這儀器很像一個老式的對講機,但頂部插著一根彎曲的、像韭菜一樣的天線。他顫抖著拿起儀器,按下通話鈕。儀器發出「滋——」的電流聲,接著傳來一陣高八度、急促且充滿養生焦慮的聲音。「喂!是廖沾沾嗎!快接聽!這裡是 K-999!宇宙水餃聯盟特級特務!你那邊是不是已經聞到宇宙級的酸味了?我們需要你的蒜泥!你被徵召了!馬上!」廖沾沾的耳朵被這聲音震得嗡嗡作響,他捏著對講機,困惑地喊道:「特務?酸味?等等!我聞到的不是酸味!是麵粉過度膨脹的焦慮味!還有,我現在走不開!我的陳年老蒜泥需要每隔三小時的溫和震動!」「蒜泥?」對面傳來K-999崩潰的尖叫聲,帶著濃濃的中藥味電子雜音:「重點不是蒜泥!重點是**時空正在彎曲!**我們的推進器快沒紅棗了!快!我們在你的後院!別帶任何中醫診所設計多餘的東西!除了——你那缸蒜泥!」就在廖沾沾還在糾結要不要帶上他最珍愛的那把銀勺時,外面的牆壁傳來一聲巨大的撞擊。一個穿著黑色燕尾服、戴著太陽眼鏡的太空吉娃娃,正從牆上的破洞鑽進來。它的背上揹著一個像是小型瓦斯桶的東西,桶上用毛筆寫著「極品紅棗枸杞燃料」。「你怎麼——」廖沾沾驚訝地瞪大了眼睛。K-999用它的小短腿站得筆直,戴著白色手套的爪子優雅地一揮:「沒時間了,沾沾先生!宇宙水餃快要拉肚子了!我們必須私人招待所設計在你被醋酸離子炮鎖定前離開!」話音未落,一股極致尖銳、刺鼻的酸氣猛地從店門口灌入,伴隨著一個狂妄自大的電子音效:「警告!這裡的醬油比例嚴重失衡!百分之九十九點九九的醋,才是真理!」廖沾沾知道,這是他的宿敵,王醋狂,已經找上門了。他的宇宙冒險,被迫從他對蒜泥的焦慮中,正式開始了。一個狂妄的影子佔滿了那扇被撞破的牆門邊緣,光線一瞬間被極端的酸氣扭曲。一個閃閃發光、像醋罐的機器人緩緩漂浮進來,它的底座還不斷噴射著白色醋霧。它身上掛著「醋狂派大勝利」的霓虹燈牌,閃爍得讓人眼睛發疼,同養生住宅時發出警報。王醋狂的聲音再次響起,這次帶著金屬回音的嘲弄,刺耳得像是磨砂紙。「廖沾沾!你那充滿腐敗氣味的蒜泥,是對醬料學的侮辱!必須淨化!」「你將為你那百分之五的醬油,以及百分之九十五的邪惡蒜頭付出代價!」醋罐機器人的頂端裂開,露出了一個巨大的管口,正在聚積藍色光芒。K-999特務用它穿著燕尾服的小爪子,一把抓住了廖沾沾侘寂風的褲腳催促著他。「快點!沾沾先生!那是醋酸離子炮!專門用來溶解有機發酵物的!」「它會把你的蒜泥在零點一秒內變成無菌的、純淨的白醋!那是浩劫啊!」「不准動我的蒜泥!」廖沾沾發出了醬料學家對待信仰般的怒吼。他以一種專業包水餃的極限速度,從旁邊的麵粉堆中抓起了兩團麵皮。麵皮被他用氣功般的捏製手法,瞬間擴大成直徑三公尺的巨大麵皮。他猛地擲出,兩張麵皮在空中交疊,變成一設計家豪宅個半透明的防禦護盾。這就是家傳《沾醬秘笈》中記載的「水餃皮護盾」,薄韌而充滿彈性。藍色離子炮光束猛烈地擊中麵皮護盾,發出了一聲像 TC:jiuyi9follow8 69a7093c2b1745.73743522
發佈留言