連日來(lái)，知名模特葉凱薇被人利用AI換臉制作淫穢視頻傳播一事持續(xù)引發(fā)熱議，也再次讓AI換臉濫用引發(fā)的違法侵權(quán)行為受到關(guān)注。大皖新聞?dòng)浾咛皆L體驗(yàn)發(fā)現(xiàn)，網(wǎng)上能輕松找到相關(guān)應(yīng)用軟件，制作AI換臉視頻，電商平臺(tái)也有商家售賣(mài)此類(lèi)軟件，甚至宣稱能做到“100%逼真”。對(duì)此，專(zhuān)家表示，防范此類(lèi)風(fēng)險(xiǎn)，需法律、應(yīng)用工具、視頻平臺(tái)多方齊發(fā)力。

　　網(wǎng)上AI換臉軟件和教程可輕松找到

　　一鍵生成視頻

　　3月13日，大皖新聞?dòng)浾唧w驗(yàn)發(fā)現(xiàn)，在多個(gè)社交平臺(tái)搜索關(guān)鍵詞“AI換臉”，均會(huì)出現(xiàn)“溫馨提示”，諸如“該內(nèi)容僅供娛樂(lè)，切勿輕信，謹(jǐn)防詐騙”“道具使用需依法依規(guī)，也請(qǐng)注意識(shí)別他人是否借此營(yíng)造虛假人設(shè)，不當(dāng)獲利”等。在某社交平臺(tái)，溫馨提示下方即是各種推薦AI換臉軟件、網(wǎng)站的帖子，其中不少都以女明星的照片作為封面圖，甚至打出了“一鍵換臉，秒變明星臉”“換臉就這么簡(jiǎn)單”“AI換臉最強(qiáng)插件”等頗具吸引力的標(biāo)語(yǔ)，在評(píng)論區(qū)，還有不少網(wǎng)民留言追問(wèn)如何獲取、使用。

　　在某短視頻平臺(tái)，記者看到，搜索“AI換臉”出來(lái)的內(nèi)容更為豐富，不僅有自帶使用工具鏈接的AI換臉教程，還有各種小程序、特效、免費(fèi)軟件供選擇。在一些教程視頻中，直接選取影視片段，將明星演員臉部替換，契合程度不一，有的較為粗糙，有的則較為自然，乍一看難以輕易區(qū)分。

　　點(diǎn)開(kāi)其中一款工具，記者看到，有各種場(chǎng)景視頻供選擇，多以影視片段為主，選定場(chǎng)景后，可以選擇人臉照片。記者隨機(jī)上傳了一張人臉照片后，跳出付費(fèi)頁(yè)面，單次付費(fèi)視頻換臉為2.88元，周會(huì)員為15元，月會(huì)員為30元，標(biāo)注可無(wú)限次免費(fèi)制作。付費(fèi)后，沒(méi)多久視頻就制作完成，原本視頻中明星演員的臉部已經(jīng)成功替換，雖然面部表情有些生硬，但整體已較為契合。

　　電商平臺(tái)售賣(mài)AI換臉軟件，有商家宣稱“100%逼真”

　　而在電商平臺(tái)，大皖新聞?dòng)浾咄瑯铀阉鳌癆I視頻換臉”，要么顯示暫無(wú)相關(guān)商品，要么直接跳出法律提醒。記者轉(zhuǎn)而搜索“AI換”，則顯示有不少可以提供AI技術(shù)轉(zhuǎn)換的商家，人物圖片、視頻可一鍵轉(zhuǎn)換，收費(fèi)標(biāo)準(zhǔn)從10元到50元不等。記者以購(gòu)買(mǎi)者的身份咨詢，一名客服介紹，付費(fèi)后，會(huì)提供一款軟件用于視頻換臉，上傳后一鍵轉(zhuǎn)換，操作簡(jiǎn)單。另一名客服更是介紹，他們的軟件不僅可以換臉，還可以克隆聲音，只需提供一張照片或者一個(gè)視頻直接一鍵生成，高清導(dǎo)出，還沒(méi)有次數(shù)限制，“不用擔(dān)心不會(huì)使用，我們老師一對(duì)一進(jìn)行指導(dǎo)，并且做到100%逼真�！痹摽头f(shuō)道。

　　多個(gè)商家客服均表示，可以用明星照片實(shí)現(xiàn)視頻換臉，當(dāng)記者詢問(wèn)此舉是否有風(fēng)險(xiǎn)時(shí)，得到的答復(fù)則是“娛樂(lè)使用即可”“不會(huì)的，放心”。記者進(jìn)一步追問(wèn)是否可以給裸體視頻換臉時(shí)，一名客服回答：“拍下即可，測(cè)試過(guò)的，放心親�！绷硪幻头⻊t表示，其不知曉，下載后自己操作即可。

　　而在另一家電商平臺(tái)，記者看到，直接搜索“AI視頻換臉”顯示無(wú)相關(guān)商品，搜索“AI換”同樣會(huì)出現(xiàn)可提供換臉、換裝服務(wù)的商家。記者再次以購(gòu)買(mǎi)者的身份聯(lián)系多個(gè)商家，對(duì)方均表示無(wú)法進(jìn)行明星視頻換臉。問(wèn)及原因，一位客服稱是因?yàn)樾は駲?quán)的原因不做，另一位客服則回答：“這個(gè)不行了，沒(méi)了。”

　　在探訪過(guò)程中，記者還發(fā)現(xiàn)，有的應(yīng)用程序還會(huì)在操作中，彈出溫馨提示，禁止上傳涉黃違規(guī)內(nèi)容，一經(jīng)發(fā)現(xiàn)將永久禁止。

　　專(zhuān)家：防范風(fēng)險(xiǎn)，需法律、應(yīng)用工具、視頻平臺(tái)多方發(fā)力

　　對(duì)此，大皖新聞?dòng)浾卟稍L了安慶師范大學(xué)傳媒學(xué)院副教授(復(fù)旦大學(xué)傳播學(xué)博士)劉志遠(yuǎn)，其表示，隨著AI技術(shù)的發(fā)展，聲音克隆和換臉技術(shù)越來(lái)越普及，門(mén)檻也越來(lái)越低。市面上提供了很多易于使用的工具，比如手機(jī)APP、小程序等，使得普通用戶也能方便使用人工智能工具，但風(fēng)險(xiǎn)也隨之而來(lái)。

　　面對(duì)AI使用過(guò)程中存在的風(fēng)險(xiǎn)，又該如何防范呢？劉志遠(yuǎn)認(rèn)為，一方面，在工具源頭(尤其是涉及到AI換臉和克隆聲音功能的)加入水印功能，即這類(lèi)工具生成的內(nèi)容自動(dòng)加入顯式和隱式水印，顯式水印明確表示這是AI生成的，隱式水印便于追蹤和回溯。同時(shí)，工具自身也需要提供AI生成內(nèi)容所可能帶來(lái)后果的警示信息，提醒用戶。另一方面，各大視頻平臺(tái)也需要加強(qiáng)AI生成內(nèi)容的檢測(cè)力度，對(duì)可能是AI生成的內(nèi)容予以醒目提示，比如“該內(nèi)容可能是AI生成的”等。

　　“當(dāng)然，最重要的，我覺(jué)得還是從法律法規(guī)層面加強(qiáng)管理，制定AI使用相關(guān)的法律法規(guī)，規(guī)定AI使用和適用場(chǎng)景等，明確換臉和克隆技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)和法律后果�！眲⒅具h(yuǎn)說(shuō)道。

　　大皖新聞?dòng)浾?韓喻 實(shí)習(xí)生 章雅婷