某直播間內，一名主播正在進行“換臉”帶貨。

(資料圖片)

“點進直播間一看，‘迪麗熱巴’居然在直播賣貨?！苯?，有網友點開直播間，卻發(fā)現正在賣貨的竟是當紅女星。然而再定睛一看，這些帶貨“明星”很快露出了馬腳——身穿中式服裝，正在賣力帶貨的“明星”們，其實只是使用了AI實時換臉技術的普通主播。

AI實時換臉，正在直播間悄然出現。

據中新網

采用AI換臉明星直播帶貨

已能達到以假亂真的地步

“一開始只是以為長得像，沒想到刷進去好幾個直播間都這樣，才發(fā)現是用了‘換臉’。”路垚(化名)向記者表示，近期她被推送的好幾個直播間，都采用了AI換臉明星的方式進行直播帶貨，而楊冪、迪麗熱巴、angelababy等當紅女星，成了AI換臉的重點對象。

“向平臺投訴了也沒什么用。”她說。

記者注意到，目前的AI實時換臉，在直播中已能達到以假亂真的地步，不少人點進直播間以后以為主播只是長得像明星，不過也有一些直播間出現了人身比例失調的違和現象。有網友指出了其中一些破綻:“主播低頭整理頭發(fā)的時候，腦門上全是黑的?！?/p>

“現在普通人的臉已經不配直播了?！庇芯W友如此感慨。

對于競爭火熱的直播間來說，“高顏值”是主播的重要資本之一，而使用“明星臉”直播，或許可以更好達到引流效果，并節(jié)省直播成本。此外，使用統(tǒng)一的“換臉”形象，也使直播間降低了主播走紅后“單飛”帶來的風險。

但不少網友也對“換臉”表示了反感:“發(fā)現是‘換臉’直播后，就失去了購買的欲望?！?/p>

通過智能后臺的AI換臉技術

主播可以實現形象實時替換

隨著AI技術的不斷進步，AI實時換臉已逐漸成熟。近年來，AI實時換臉已從最初的娛樂“整活”，向直播等多個應用場景發(fā)展。通過智能后臺的AI換臉技術，主播可以實現形象的實時替換。

有視頻換臉研究者表示，實時換臉不存在延遲，也不會有Bug，而直播畫面?zhèn)鬏數难舆t則取決于使用者的網絡配置和進行直播的平臺。

記者以使用者的身份咨詢了一家提供“換臉軟件”的網站。該網站客服表示，使用AI換臉需要進行模型訓練?！昂铣尚Ч貌缓?，關鍵看模型和素材?！?/p>

據提供“換臉軟件”的網站介紹，使用者自己從零開始訓練模型，如果24小時掛機不停地訓練模型，需要經過半個月到一個月的時間，才能達到可以合成視頻的效果。

而比起自己花費大量時間訓練模型，更多人選擇購買現成的模型?！八夭某渥愕脑?，你只要花費半個小時到幾個小時的時間就可以直接合成視頻。模型可以替換任意素材使用，不分張三李四?！?/p>

該網站客服稱，他們提供的全套模型購買價格為3.5萬元，AI實時換臉可適用于各大直播平臺。

【鏈接】

換臉直播存在哪些侵權？

與此前因爭議沖上熱搜的“AI孫燕姿”一樣，AI換臉也存在侵權問題。

北京云嘉律師事務所律師趙占領表示，AI換臉主要涉及肖像權等問題?！叭绻f未經他人同意，用他人的肖像替換某一個主播的形象，這種情況下涉嫌侵犯肖像權；如果還使用了他人的姓名，那還涉嫌侵犯姓名權?！?/p>

在AI換臉直播中，平臺是否負有責任？趙占領表示，平臺對于平臺內商家的侵權行為不承擔直接侵權的責任，而是否構成幫助侵權，主要是看平臺對于商家的侵權行為是否屬于明知或應知。但對于如何判定平臺對用戶、權利人的投訴是否明知或應知，趙占領也表示，在一般情況下很難認定。

日前，某短視頻平臺發(fā)布《關于人工智能生成內容的平臺規(guī)范暨行業(yè)倡議》，提出應用生成式人工智能技術時，發(fā)布者應對人工智能生成內容進行顯著標識，幫助其他用戶區(qū)分虛擬與現實，特別是易混淆場景?！敖估蒙墒饺斯ぶ悄芗夹g創(chuàng)作、發(fā)布侵權內容，包括但不限于肖像權、知識產權等。一經發(fā)現，平臺將嚴格處罰。”

【延伸閱讀】

AI詐騙常用手法

第一種:聲音合成

騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

第二種:AI換臉

人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。騙子首先分析公眾發(fā)布在網上的各類信息，根據所要實施的騙術，通過AI技術篩選目標人群。在視頻通話中利用AI換臉，騙取信任。

第三種:轉發(fā)微信語音

騙子在盜取微信號后，便向其好友“借錢”，為取得對方的信任，他們會轉發(fā)之前的語音，進而騙取錢款。盡管微信沒有語音轉發(fā)功能，但他們通過提取語音文件或安裝非官方版本（插件），實現語音轉發(fā)。

第四種:AI程序篩選受害人

騙子利用AI來分析公眾發(fā)布在網上的各類信息，根據所要實施的騙術對人群進行篩選，在短時間內便可生產出定制化的詐騙腳本，從而實施精準詐騙。

例如:實施情感詐騙時，可以篩選出經常發(fā)布感情類信息的人群；實施金融詐騙時，可以篩選出經常搜索投資理財信息的人群。

如何防范？

多重驗證確認身份

如果有人要求你分享個人身份信息，如你的地址、出生日期或名字，要小心；

對突如其來的電話保持警惕，即使是來自你認識的人，因為來電顯示的號碼可能是偽造的；

網絡轉賬前要通過電話等多種溝通渠道核驗對方身份，一旦發(fā)現風險，及時報警求助；

如果有人自稱“熟人”“領導”通過社交軟件、短信以各種理由誘導你匯款，務必通過電話、見面等途徑核實確認，不要未經核實隨意轉賬匯款，不要輕易透露自己的身份證、銀行卡、驗證碼等信息。

關鍵詞