99精品一区无码在线观看,洲va久久久噜噜噜久久,无码做a视频在线观看,亚洲三级视频专区

在開源軟件中，記者上傳了一段3分鐘的自己的錄音，在經(jīng)過AI模型訓(xùn)練后，成功得到了自己聲音的模型文件，此后輸入任意文本，軟件即可口播出自己的聲音。記者發(fā)現(xiàn)，經(jīng)過模型訓(xùn)練后，記者在發(fā)音時(shí)的一些吐字習(xí)慣都被模型牢牢記住。

9月26日，合肥市公安局高新分局發(fā)布警情通報(bào)稱，對(duì)于網(wǎng)上傳播涉盧某某的音視頻，9月22日抓獲犯罪嫌疑人王某某，并在其電腦、手機(jī)和制作AI音頻的網(wǎng)站中發(fā)現(xiàn)偽造相關(guān)音視頻的證據(jù)；結(jié)合其供述、調(diào)查取證，并經(jīng)部、省專業(yè)機(jī)構(gòu)檢驗(yàn)鑒定，認(rèn)定報(bào)案所涉網(wǎng)傳音視頻系偽造。

這是又一起因AI深度偽造技術(shù)而出現(xiàn)的案例，當(dāng)前，克隆他人聲音的門檻已經(jīng)低到何種地步？面對(duì)門檻不斷下降的AI深度偽造手段，監(jiān)管層又該從何處著手？對(duì)此，新京報(bào)貝殼財(cái)經(jīng)記者進(jìn)行了聲音克隆的實(shí)測(cè)，并采訪了相關(guān)專家。

克隆聲音門檻有多低？

關(guān)于聲音合成技術(shù)的應(yīng)用最早能夠追溯到十一年前，高德地圖推出的“林志玲語音包”，但此后，隨著AI語音技術(shù)的發(fā)展和技術(shù)開源，語音合成的門檻逐漸降低，只要提供音源，普通人也可以進(jìn)行聲音合成。從技術(shù)角度，不論是自己的聲音還是從網(wǎng)絡(luò)上找到的其他聲音資源，都可以用于AI語音合成的素材，這在方便了配音、數(shù)字人等行業(yè)發(fā)展的同時(shí)，也給AI聲音偽造提供了條件。

9月27日，新京報(bào)貝殼財(cái)經(jīng)記者以相關(guān)關(guān)鍵詞在網(wǎng)絡(luò)進(jìn)行搜索，很容易就找到了多個(gè)擁有聲音克隆能力的軟件，其中不乏知名公司，例如科大訊飛的AI配音軟件，字節(jié)跳動(dòng)旗下的剪映軟件等。此外，還有不少已經(jīng)開源的AI配音技術(shù)，其中不乏只需要上傳5秒鐘就能識(shí)別并克隆聲音的功能。

對(duì)此，記者分別在一款國(guó)人制作并在GitHub上開源的聲音克隆軟件，以及剪映軟件中分別體驗(yàn)了聲音克隆功能。

在開源軟件中，記者上傳了一段3分鐘的自己的錄音，在經(jīng)過AI模型訓(xùn)練后，成功得到了自己聲音的模型文件，此后輸入任意文本，軟件即可口播出自己的聲音。記者發(fā)現(xiàn)，經(jīng)過模型訓(xùn)練后，記者在發(fā)音時(shí)的一些吐字習(xí)慣都被模型牢牢記住，對(duì)于一些較短的語句，連記者本人都識(shí)別不出這是機(jī)器合成的語音，而生成長(zhǎng)語句時(shí)，則會(huì)出現(xiàn)瑕疵，但只要多次生成，再從中挑選合成效果較好的語句，總有可以“以假亂真”的聲音出現(xiàn)。

而在剪映軟件中，選擇文本后的“朗讀”選項(xiàng)卡里，有“克隆音色”的選項(xiàng)，記者發(fā)現(xiàn)，只要按照該軟件的提示詞朗讀其準(zhǔn)備好的語句，只需要10秒左右，其就可以生成獨(dú)屬于自己的聲音模型，此后只需要輸入文本其就可以按照輸入的音色生成語音。

但假如創(chuàng)作者故意輸入了其他人的聲音，是否有防范的措施呢？記者發(fā)現(xiàn)，前述開源軟件的軟件作者在使用界面中標(biāo)注稱，“本軟件以MIT協(xié)議開源，作者不對(duì)軟件具備任何控制力，使用軟件者、傳播軟件導(dǎo)出的聲音者自負(fù)全責(zé)。”

而剪映在彈出的提示中表示，其將全程采用安全加密措施處理提供的信息，不會(huì)在未經(jīng)授權(quán)的情況下使用相關(guān)信息。克隆音色生成后，使用克隆音色進(jìn)行文本朗讀，需按照文本字?jǐn)?shù)進(jìn)行付費(fèi)，并在使用規(guī)范中標(biāo)注了“您承諾所錄制的音頻為您本人所有或已獲得合法授權(quán)。”

剪映軟件中克隆音頻的提示。

記者發(fā)現(xiàn)，由于AI合成的聲音幾乎可以“以假亂真”，因此平臺(tái)在傳播相關(guān)由AI音頻制作的內(nèi)容時(shí)，往往難以通過有效手段進(jìn)行識(shí)別。當(dāng)前，抖音、嗶哩嗶哩等平臺(tái)確實(shí)有對(duì)于AI生成內(nèi)容的提示，但如果平臺(tái)檢測(cè)不出此內(nèi)容為AI生成，內(nèi)容創(chuàng)作者也不加以標(biāo)識(shí)，確實(shí)容易導(dǎo)致虛假內(nèi)容的傳播。

AI偽造聲音觸犯了哪些法律法規(guī)？平臺(tái)和監(jiān)管部門應(yīng)如何用魔法打敗魔法

在“盧某某”錄音事件中，根據(jù)警方通報(bào)，9月16日，王某某利用從互聯(lián)網(wǎng)下載的音視頻資料，杜撰盧某某酒后言論腳本，先使用AI工具訓(xùn)練生成假冒盧某某的音頻(其中出現(xiàn)的女聲也系A(chǔ)I工具訓(xùn)練生成)，后用視頻軟件合成音視頻，并通過網(wǎng)絡(luò)發(fā)布，形成謠言大量傳播。目前，王某某已被依法采取刑事強(qiáng)制措施，案件正在進(jìn)一步偵辦中。

9月27日，浙江墾丁律師事務(wù)所主任律師張延來在接受新京報(bào)貝殼財(cái)經(jīng)記者采訪時(shí)表示，隨著AI合成技術(shù)的普及，特別是在聲音和視頻領(lǐng)域的廣泛應(yīng)用，確實(shí)帶來了許多潛在的風(fēng)險(xiǎn)和問題。主要體現(xiàn)在利用AI合成實(shí)施詐騙行為、版權(quán)和知識(shí)產(chǎn)權(quán)侵權(quán)問題（如利用AI技術(shù)生成“AI孫燕姿”或其他名人聲音）、虛假信息和謠言傳播（如“盧某某”錄音事件中的AI偽造音頻）、制作販賣淫穢物品牟利（如用AI“一鍵去衣”技術(shù)深度偽造淫穢圖片）等。

而在“盧某某”錄音事件中，AI偽造聲音觸及的法律法規(guī)包括未經(jīng)授權(quán)使用他人聲音進(jìn)行AI化處理并利用侵犯了他人的人格權(quán)益，利用AI制造和傳播虛假信息屬于擾亂公共秩序的違法行為，同時(shí)還可能涉嫌誹謗罪以及尋釁滋事罪。

張延來表示，許多國(guó)家已經(jīng)開始探索針對(duì)深度偽造等技術(shù)的立法，“比如，中國(guó)在2022年出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度偽造管理規(guī)定》，要求用戶和企業(yè)使用AI合成技術(shù)時(shí)，必須標(biāo)明是否為AI生成的內(nèi)容，未標(biāo)明的內(nèi)容可能會(huì)受到法律追責(zé)。未來，法律應(yīng)進(jìn)一步細(xì)化，明確哪些場(chǎng)景下AI合成技術(shù)的使用是合法的，哪些情形下可能構(gòu)成侵權(quán)或犯罪行為。加強(qiáng)對(duì)AI偽造內(nèi)容的監(jiān)管和懲罰力度，將有助于遏制此類行為。”

對(duì)于在法律層面應(yīng)對(duì)AI偽造的方法，張延來認(rèn)為，法律可以要求任何涉及他人肖像、聲音、名譽(yù)等個(gè)人信息的AI合成內(nèi)容都必須經(jīng)過當(dāng)事人明確同意，并對(duì)未授權(quán)的內(nèi)容使用者施加嚴(yán)厲的懲罰。這種機(jī)制能夠有效減少利用AI技術(shù)對(duì)個(gè)人隱私的侵害，防止偽造信息的傳播。同時(shí)，法律可以規(guī)定，使用AI生成內(nèi)容的公司、平臺(tái)以及個(gè)人必須留存數(shù)據(jù)生成過程的完整記錄，以便日后追查。這種追溯機(jī)制可以讓相關(guān)方對(duì)其生成的內(nèi)容負(fù)責(zé)，幫助追究相關(guān)的法律責(zé)任。

貝殼財(cái)經(jīng)記者注意到，9月14日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》(下稱《征求意見稿》)公開征求意見的通知，還配套發(fā)布了國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》。《征求意見稿》共十四條，其中較為重要的條款包括要求人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)，而根據(jù)《征求意見稿》，人工智能生成合成內(nèi)容既包括文本，也包括音頻、圖片、視頻等。

中國(guó)信息通信研究院人工智能研究所所長(zhǎng)魏凱分析稱，《征求意見稿》進(jìn)一步完善生成式人工智能監(jiān)管問責(zé)體系。生成式人工智能生成合成內(nèi)容涉及多種類型的主體，清晰界定各主體義務(wù)更有利于壓實(shí)主體責(zé)任，便利技術(shù)檢測(cè)實(shí)施，進(jìn)而落實(shí)精準(zhǔn)問責(zé)。《征求意見稿》不僅界定了人工智能生成合成內(nèi)容的基本概念，更針對(duì)服務(wù)提供者、傳播平臺(tái)、應(yīng)用服務(wù)分發(fā)平臺(tái)和用戶分別規(guī)定了具體標(biāo)識(shí)要求，為各相關(guān)主體落實(shí)合規(guī)指明了方向。

而在技術(shù)層面，張延來表示通過技術(shù)手段可以嵌入數(shù)字水印或元數(shù)據(jù)，使得AI生成的音視頻內(nèi)容具有可追溯性，能夠準(zhǔn)確識(shí)別內(nèi)容的出處。這類技術(shù)可以幫助平臺(tái)和監(jiān)管機(jī)構(gòu)快速檢測(cè)出虛假信息并阻止其傳播。同時(shí)，可以開發(fā)更強(qiáng)大的AI模型用于檢測(cè)深度偽造內(nèi)容，這類反偽造AI可以應(yīng)用于社交媒體、新聞平臺(tái)等，自動(dòng)過濾虛假內(nèi)容。

“各大內(nèi)容平臺(tái)可以引入更加嚴(yán)格的AI生成內(nèi)容審核機(jī)制，利用反偽造技術(shù)在內(nèi)容上傳階段進(jìn)行自動(dòng)檢測(cè)與標(biāo)記，特別是對(duì)于涉及名人、公眾人物或敏感事件的內(nèi)容。此外，平臺(tái)應(yīng)為公眾提供舉報(bào)機(jī)制，允許用戶快速舉報(bào)疑似偽造內(nèi)容，并快速響應(yīng)處理。”張延來對(duì)新京報(bào)貝殼財(cái)經(jīng)記者表示。

新京報(bào)貝殼財(cái)經(jīng)記者羅亦丹