逝世明星的AI視頻近期頻繁出現(xiàn)在短視頻平臺,視頻中,AI李玟表示“希望你們都能活得很好”,AI高以翔稱“你們的每一個留言、每一份關(guān)懷我都感受到了”,AI喬任梁也在跟粉絲問好。
但此類AI視頻很快引起逝者家屬意見反彈,喬任梁父親3月16日公開稱,“不能接受,感到不舒適,希望對方下架”,并表示“他們未征求我們同意,是我侄女刷到視頻發(fā)給我的,這是在揭傷疤” 。
記者3月17日在視頻平臺看到,一些此前流傳的AI喬任梁視頻已搜索不到,但仍有不少AI李玟、AI科比、AI姚貝娜、AI高以翔等已逝明星的AI視頻存在。第一財經(jīng)記者以AI視頻潛在購買者或合作者身份咨詢制作者,了解到目前制作一條30秒~1分鐘時長的視頻價格80~600元,拿到視頻后可自行在視頻平臺發(fā)布。不少發(fā)布視頻的創(chuàng)作者對外接單,有的在招收學(xué)徒和代理。
電商平臺上也出現(xiàn)了低價的明星模型,這些“免訓(xùn)練、可直接合成”的女明星“萬能模型”售價幾乎都在8元-25元以下。AI合成明星正形成一個灰色產(chǎn)業(yè),律師提醒,合成明星視頻后發(fā)布有違法違規(guī)的風(fēng)險。
AI“復(fù)活”成生意
不久前,商湯創(chuàng)始人湯曉鷗以AI數(shù)字人的方式出現(xiàn)在商湯線上年會,商湯技術(shù)團(tuán)隊征得家屬同意,使用商湯如影技術(shù)高度還原了湯曉鷗的神態(tài)等細(xì)節(jié)。AI技術(shù)“復(fù)活”,成為親人朋友追思逝者的新方式。但隨著越來越多AI“復(fù)活”明星的視頻出現(xiàn)在視頻平臺,引起的爭論開始發(fā)酵。
在一些視頻平臺上,已逝明星在AI視頻中表達(dá)著他們的“想法”。AI高以翔稱“聽說我離開的這段時間里,有人開始健身,有人學(xué)會了做飯……我不在你們身邊,但我一直在另一個世界陪伴著你們”。AI姚貝娜稱“我去的地方還是能盡情歌唱”。AI科比用英語表示“很高興以這樣的方式再次和你們相見”。
相比湯曉鷗演講視頻的高還原度,這些AI明星視頻在細(xì)節(jié)處顯得粗糙,臉部表情、嘴巴和眼睛的動作有不流暢之處,但若不仔細(xì)看,仍像是真人在說話。評論區(qū)中,有粉絲希望視頻制作者能繼續(xù)發(fā)布其喜歡的明星的AI視頻,也有人認(rèn)為AI視頻應(yīng)由逝者家屬發(fā)布更合適。
發(fā)布AI“復(fù)活”明星的視頻,是短視頻平臺上這些制作者招攬客戶的一種方式,一些制作者的主頁顯示承接數(shù)字人制作、“復(fù)活”親人等業(yè)務(wù)。記者以AI視頻潛在購買者或合作者身份咨詢了這些制作者。一名制作者表示可以制作一名已逝明星的AI視頻,“只需提供已逝親人的照片及想表達(dá)的話即可定制,30秒內(nèi)89元”。AI視頻制作完成后,付費購買者可以發(fā)布在視頻平臺上,視頻制作者征求同意后也會發(fā)布在其賬號上。
另一名制作者表示,只要提供素材便可復(fù)活已逝明星,包括1分鐘清晰講話聲音素材和正臉視頻畫面。生成1分鐘講話畫面收費200元,后續(xù)每分鐘收費20元,若除了講話畫面還需加入其他畫面剪輯,每分鐘需加收50元剪輯費,下單要轉(zhuǎn)至電商平臺。記者看到,其店鋪銷售AI數(shù)字人制作、AI視頻制作、AI音頻處理,相關(guān)產(chǎn)品售出30余份。
此外,有AI明星視頻制作者發(fā)出了價格單,顯示提供逝者照片后生成1分鐘內(nèi)說話視頻,若選擇AI配音收費198元,若選擇逝者聲音則收費398元。除普通話外,視頻還能以逝者的音色生成方言,根據(jù)聲音的生成方式和還原度,收費398~598元。后續(xù),制作團(tuán)隊還計劃推出語音及文字實時互動聊天、實時視頻通話聊天產(chǎn)品。
該團(tuán)隊還在招學(xué)徒和代理,要成為代理,需向其交980元,由該團(tuán)隊提供視頻并制作,代理在外接單,該團(tuán)隊向代理的報價是價格表的6折,差價是代理的收益。該制作者稱,學(xué)徒的收費更高,但并未透露收費價格。
目前已有多種AI工具可用于制作AI數(shù)字人。此前,有B站UP主制作了已逝親人的AI視頻,并介紹了AI“復(fù)活”的過程。包括將照片上傳至Midjourney并優(yōu)化、錄音導(dǎo)入音頻編輯軟件并切割成短音頻、將語音上傳到百度飛槳AI Studio語音合成項目訓(xùn)練模型、輸入文本嘗試語音合成、將合成的語音包下載到本地。還可以讓ChatGPT角色扮演進(jìn)行對話,再用D-ID數(shù)字人AI視頻平臺網(wǎng)站,上傳頭像生成模型、上傳文字和音頻,進(jìn)行合成。
普通人要使用AI工具制作視頻,收費門檻不算太高。其中,記者從AI視頻創(chuàng)作者了解到,Midjourney fast快速出圖模式每月時長15小時,收費約300元,在非專業(yè)影視制作者使用且非大量出圖的情況下基本夠用。D-ID試用前兩周免費,按年收費不同模式下價格為56~1293美元。
電商平臺9.9元可“合成”明星
要合成明星視頻,還有一種“自己動手”收費更低的方式。在淘寶上,“9.9元生成楊冪”已不是夢。
3月17日,記者查看淘寶發(fā)現(xiàn),搜索“AI女明星”等關(guān)鍵詞,一些女明星的形象正被制作成人物模型素材包,以方便購買者實現(xiàn)AI換臉女明星。這些“免訓(xùn)練、可直接合成”的女明星“萬能模型”售價幾乎都在8元-25元以下,消費者下單后,后臺立刻發(fā)貨。
記者嘗試拍下了一件標(biāo)價為9元的楊冪萬能模型,后臺立刻自動回復(fù)了一個網(wǎng)盤鏈接,網(wǎng)盤中有一個可供下載的壓縮文件,包含1.4G的楊冪相關(guān)素材,商家表示,通過DeepFaceLab軟件,配合該楊冪模型,用戶可以將導(dǎo)入的視頻中的人全部換成楊冪。同時,記者還注意到了一件名為“SRC高質(zhì)量稀有明星人臉?biāo)夭?rdquo;的商品標(biāo)價23.8元,涉及唐嫣、楊紫、倪妮等眾多明星,商品詳情頁面顯示,該人物模型合集包括10萬張明星圖片,包含眾多影片截圖、劇照等。
DeepFaceLab是一款用于AI換臉的開源軟件。而對于難以自行下載或?qū)俜桨姹敬嬖谑褂美щy的用戶,淘寶商家還推出了DeepFaceLab的新版本,表示“全部漢化,修復(fù)了很多BUG,新增很多功能,可以查看角度”,售價為10元。
“生成女明星”似乎正在變成一件低成本、低門檻的事,但實際上,許多風(fēng)險暗藏其中。
記者注意到,該類產(chǎn)品幾乎都不支持7天無理由退貨,且均在詳情頁面或自動回復(fù)中表示產(chǎn)品為虛擬產(chǎn)品,一經(jīng)發(fā)貨、概不退換,這也意味著,若消費者購買的產(chǎn)品與預(yù)期不符或“換臉”效果不佳時,可能存在維權(quán)困難。
私下向視頻制作者付費而不通過平臺,以制作喜愛明星或已逝親人的AI視頻,也有一定潛在風(fēng)險。一名視頻制作者表示,下單方式是直接向其支付寶轉(zhuǎn)賬,但其對于私下交易是否安全的問題并未回應(yīng)。另一名視頻制作者表示,直接下單或要成為代理需私下加其社交賬號溝通,關(guān)于私下交易的安全性,該制作者則稱可用人格擔(dān)保。
記者從律師了解到,不論是生成已逝明星AI視頻并發(fā)布在視頻平臺,還是在電商平臺上銷售明星模型,都可能是違法違規(guī)的行為。
廣東國鼎律師事務(wù)所律師廖建勛告訴記者,未經(jīng)去世明星家屬同意發(fā)布AI“復(fù)活”視頻甚至用于商業(yè)牟利是侵權(quán)行為,侵犯了肖像權(quán)。據(jù)《民法典》規(guī)定,死者姓名、肖像等受到侵害,親屬有權(quán)請求行為人承擔(dān)民事責(zé)任,要求消除不良影響、支付精神損害撫慰金等,且可要求平臺刪除侵權(quán)視頻。相對粉絲制作視頻不用于商業(yè)牟利,商業(yè)牟利者需承擔(dān)的責(zé)任更重。
河南澤槿律師事務(wù)所主任付建則提醒,由于商家售賣的明星模型是在沒有授權(quán)的情況下提供給消費者使用,可能會侵犯明星的肖像權(quán)、名譽權(quán)或者隱私權(quán)。這些商品還可能為不法分子實施違法犯罪提供便利,造成不良社會影響。
付建認(rèn)為,消費者在購買這些服務(wù)時,應(yīng)該注意是否違反法律法規(guī)的規(guī)定,是否侵犯他人合法權(quán)益,是否在法律所允許的范圍內(nèi)進(jìn)行使用服務(wù)。例如,當(dāng)消費者在未經(jīng)允許的情況下擅自生成他人的AI視頻,并在互聯(lián)網(wǎng)傳播時,便有可能侵犯他人的肖像權(quán)和名譽權(quán)。根據(jù)《民法典》的規(guī)定,被侵權(quán)人可以要求對方停止侵害肖像權(quán)和名譽權(quán)的活動、消除影響、賠禮道歉、賠償損失、恢復(fù)名譽等;如果情節(jié)嚴(yán)重,構(gòu)成犯罪的,侵權(quán)人還需要依法承擔(dān)相應(yīng)的刑事責(zé)任。
責(zé)任編輯:胡睿琳
關(guān)注公眾號,隨時閱讀陜西工人報
陜工網(wǎng)——陜西工人報 © 2018 sxworker.com. 地址:西安市蓮湖路239號 聯(lián)系電話:029-87344649 E-mail:sxworker@126.com
陜ICP備17000697號 陜公網(wǎng)安備61010402000820 版權(quán)所有 Copyright 2005陜工網(wǎng) 未經(jīng)書面授權(quán)不得轉(zhuǎn)載或鏡像 網(wǎng)站圖文若涉及侵權(quán),請聯(lián)系我們刪除。