智慧之物(微信官方賬號:zhidxcom)

文本|每年

導(dǎo)語:隨著AI變臉技術(shù)的日益普及，AI變臉黑制作的規(guī)模越來越大，很多人開始賣AI變臉成品情色視頻，定制視頻，AI變臉軟件，教程。

7月24日消息，隨著AI變臉技術(shù)的不斷發(fā)展，圍繞AI變臉已經(jīng)形成了完整的黑色產(chǎn)業(yè)鏈。100元包200部變臉艷情片，包括國內(nèi)一線二線女明星。五張照片可以幫你定制變臉視頻。400元可以買變臉軟件和教程，還包括教學(xué)包...

AI變臉是基于一套簡單的深度學(xué)習(xí)算法，只需要照片或者視頻。通過這個(gè)算法，你可以用你想要替換的人臉來替換人臉。操作比較簡單，替換下來的視頻或者照片非常逼真。

很多人看到了“商機(jī)”，于是大量的AI變臉視頻或照片開始出現(xiàn)，很多被應(yīng)用到情色電影中的變臉。有了這項(xiàng)技術(shù)，你就可以用你想看的臉來代替色情電影中的臉，這也是引爆這項(xiàng)技術(shù)的話題。

據(jù)記者調(diào)查，目前AI變臉黑產(chǎn)品已經(jīng)形成了完整的產(chǎn)業(yè)鏈，包括下游情色視頻、中游定制視頻、上游軟件和教程。有的賣家甚至在整個(gè)產(chǎn)業(yè)鏈中提供產(chǎn)品和售后服務(wù)。據(jù)一些賣家說，定制視頻現(xiàn)在要排隊(duì)了，因?yàn)榍懊婧芏嗳艘灿羞@個(gè)需求，說明AI變臉黑產(chǎn)品已經(jīng)發(fā)展到一定程度。

第一，100塊錢能干什么？裝200部變臉情色片

為了調(diào)查傳聞中的AI變臉地下產(chǎn)業(yè)鏈，我也煞費(fèi)苦心。在各種論壇瀏覽了公眾信息后，鎖定了三大AI變臉黑制作平臺:淘寶、咸魚、貼吧。

我在淘寶、咸魚、貼吧這三個(gè)AI變臉的活躍平臺上做了一個(gè)調(diào)查，發(fā)現(xiàn)這三個(gè)平臺目前都加強(qiáng)了對AI變臉的審核力度，已經(jīng)不像之前搜索AI變臉那么多結(jié)果了，而且三個(gè)平臺側(cè)重點(diǎn)不同。

▲淘寶搜索“AI變臉”結(jié)果

比如你在淘寶輸入“AI變臉”，十大退店只有一家做AI變臉，只提供教程不提供成品視頻出售。在所有退店中，只找到7家運(yùn)營AI變臉的店，大部分只提供軟件和教程，不提供成品視頻。

▲咸魚搜索“變臉”結(jié)果

在咸魚里搜索AI變臉根本沒有搜索結(jié)果，所以我機(jī)智的去掉AI，只搜索變臉(搜索AI不變臉沒有相關(guān)結(jié)果)。這時(shí)候咸魚搜索結(jié)果第一項(xiàng)就是AI變臉的店。在所有返回的結(jié)果中，大部分都只是用圖片做變臉，少數(shù)變臉軟件和成品視頻賣的標(biāo)簽不清晰。

▲AI變臉，deepfake and截圖

貼吧是三個(gè)里面最容易發(fā)現(xiàn)AI變臉的地方。我偷偷溜進(jìn)了AI變臉吧、deepfake bar吧、fakeapp吧，目前都在AI變臉活動(dòng)中。AI更直接變臉。大部分帖子都是賣成品視頻或者軟件教程。有的人也發(fā)帖，但都是收費(fèi)的；deepfake Bar發(fā)的帖子賣視頻和教程，也用AI變臉做一些搞笑的視頻或者圖片分享；Fakeapp吧比較簡單，內(nèi)容以技術(shù)交流為主，比如軟件使用過程中出現(xiàn)的問題，但是不知道怎么處理軟件。

▲本次調(diào)查的10家賣家數(shù)據(jù)整理完畢

三大平臺大多不直接交易，大部分最后通過這三大平臺引流到QQ和微信。記者成功聯(lián)系了三個(gè)平臺的10家賣家，其中咸魚2家，淘寶4家，貼吧4家。和賣家溝通獲得信任后，會問基本一樣的問題，比如賣內(nèi)容，價(jià)格，是否可以定制，用什么軟件。

據(jù)記者調(diào)查，AI變臉黑制作仍主要停留在三個(gè)階段，即賣成品色情視頻、賣定制視頻、賣軟件和教程。

▲不同賣家給成品視頻定價(jià)

根據(jù)很多賣家的信息，完成的色情視頻價(jià)格從2元1到30元46，100元150，100元200不等，一般都是打包出售的。據(jù)賣家介紹，完成的視頻主要是國內(nèi)一二線女明星。

▲部分賣家發(fā)給我的完成視頻案例

有趣的是，也許是為了證明變臉效果，加了一個(gè)賣家的QQ或者微信之后，會有賣家先給我發(fā)一個(gè)成品羞的短視頻，也有賣家比較謹(jǐn)慎，只給我發(fā)截圖。一開始我是拒絕的，但是當(dāng)我想工作的時(shí)候，我就帶著自我犧牲的精神毫不猶豫的看完了這一切。從視頻和截圖來看，變臉效果確實(shí)不錯(cuò)。

▲賣家對定制視頻和教程收費(fèi)

定制視頻價(jià)格比較貴。據(jù)一些賣家介紹，定制視頻一般是200-300元每小時(shí)，不到1小時(shí)的都是100元。有些賣家按分鐘定價(jià)，每分鐘20-80元。不過定制視頻流程很簡單，你只需要提供5張左右的照片。賣家表示，主要原因是定制視頻需要長時(shí)間渲染。一般10分鐘的定制視頻需要2個(gè)小時(shí)左右，而正片至少需要10個(gè)小時(shí)才能制作出來。

▲AI變臉需要電腦硬件配置

軟件和教程比成品視頻和定制視頻貴很多。從很多賣家的報(bào)價(jià)來看，教程的價(jià)格一般在300-400元左右。大部分賣家的教程定價(jià)在400元，保證1-3天學(xué)會，大部分都有后續(xù)指導(dǎo)。但是對于想自學(xué)制作視頻的人來說，賣家通常會提醒他們至少需要游戲級的配置，最低2G的視頻內(nèi)存，最好4GHZ的GPU。

但是，這些賣家只能稱之為普通賣家。聯(lián)系的賣家中，有兩個(gè)微信賣家的方式比較野。

▲微信賣家A給我發(fā)了產(chǎn)品介紹截圖

一個(gè)來自淘寶。該賣家提供云處理功能。沒錯(cuò)，就是云處理。當(dāng)使用其軟件進(jìn)行視頻處理時(shí)，它運(yùn)行在他們的服務(wù)器上，這不需要您的計(jì)算機(jī)性能。相關(guān)軟件和教程有三種，128元本地?zé)o聯(lián)網(wǎng)軟件，298元服務(wù)器15G空版，368元不限空版，其中368元版包括VPN月租38元，Google服務(wù)器月租450元，不定售后服務(wù)。

▲微信賣家B給我發(fā)了兩個(gè)可選套餐

還有一個(gè)咸魚的賣家。這個(gè)賣家除了做羞恥視頻，還賣國外應(yīng)用的下載鏈接和邀請碼。據(jù)他說，網(wǎng)站經(jīng)常被屏蔽，這樣更安全。根據(jù)他提供的視頻來看，這個(gè)APP有一個(gè)特殊的變臉區(qū)，里面有大量的成品視頻，但應(yīng)該不是都是他們做的，因?yàn)橛行┮曨l和其他賣家提供給我的是一樣的。

有趣的是，通過觀察這兩個(gè)賣家的朋友圈，我發(fā)現(xiàn)他們經(jīng)常會發(fā)一些內(nèi)容，“AI是為了技術(shù)交流，絕對不涉及色情、非法活動(dòng)等?！?。嗯，怎么說呢？一分鐘前你剛跟我說了AI變臉羞視頻賣了多少錢，然后一分鐘后你就發(fā)了這個(gè)。只能說此刻心里復(fù)雜。

根據(jù)我調(diào)查的10個(gè)AI變臉賣家，他們的業(yè)務(wù)范圍和崗位都不一樣。

低端玩家只賣一些成品視頻，不一定是自己做的，可能買多了會想拿回一些拷貝。中端玩家增加了定制小視頻的功能，要求你提供一定的照片資料，可以幫助你實(shí)現(xiàn)“女神演戲色情”。此外，高端玩家還提供軟件和教程、學(xué)徒教學(xué)、售后服務(wù)，周到細(xì)致。硬核玩家只提供教程，在云中操作，甚至自己開發(fā)軟件，可以說是在產(chǎn)業(yè)鏈的上游。

調(diào)查顯示，AI變臉黑制作主要是在地下發(fā)展存活，具體規(guī)模難以估計(jì)，主要通過淘寶、咸魚、貼吧引流。但是據(jù)一位淘寶店主介紹，如果要定制視頻，需要排隊(duì)，短時(shí)間內(nèi)很難到達(dá)，這也在一定程度上說明了問題。

第二，這位好萊塢女演員被“帶到了海里”，朱茵變成了楊冪

AI人臉變化技術(shù)的核心是一個(gè)“自動(dòng)編碼器”，其實(shí)就是一個(gè)深度神經(jīng)網(wǎng)絡(luò)。它可以接收數(shù)據(jù)輸入，將其壓縮成一個(gè)小代碼，然后從這個(gè)代碼中重新生成原始輸入數(shù)據(jù)。

比如你想用字符C替換視頻A中的字符B，需要將視頻A逐幀切片，刪除沒有字符B的幀，然后需要提供大量字符C的圖片或視頻，方法同上。之后深度學(xué)習(xí)算法會在每一幀中提取字符B的特征，我們將它命名為特征B，找出字符B轉(zhuǎn)化為特征B所需要的光照和失真條件，然后在特征B的基礎(chǔ)上轉(zhuǎn)化字符c形成特征c，再用特征c替換特征B。

▲變臉+動(dòng)作捕捉幫助保羅·沃克回歸

變臉技術(shù)不是新技術(shù)，在影視劇制作中已經(jīng)有了。比如在《速度與激情7》中，用視頻變臉技術(shù)讓保羅·沃克回歸。而早期影視劇制作中的變臉需要編輯和CGI (Computer 3D Animation)專家長時(shí)間工作，不具備普及的基礎(chǔ)。

不過AI很久沒變臉了，都是從2017年12月一個(gè)叫deepfakes的哥們開始的。當(dāng)時(shí)他用好萊塢明星蓋爾·加朵代替了情色電影中的女主角，這是人們第一次看到AI人臉的技術(shù)公開發(fā)生變化。

Reddit上一些deep假貨上傳的變臉視頻

這位好友致力于在Reddit(知名在線論壇)上分享他用AI技術(shù)變臉的小視頻。他用AI換過的明星名人不計(jì)其數(shù)，包括大多數(shù)好萊塢明星和特朗普這樣的政客。

之后，由于“受害者”的大量投訴，Reddit迫于壓力屏蔽了due假貨的賬號，但這種屏蔽允許due假貨直接開源其AI變臉項(xiàng)目的代碼。

據(jù)他分享，做一個(gè)明星變臉視頻很簡單。首先你需要在Google等網(wǎng)絡(luò)圖集中從各個(gè)角度收集你想要替換的人物的視頻和圖片，形成一個(gè)可以滿足深度學(xué)習(xí)和人臉替換任務(wù)的素材庫。

然后通過TensorFlow或者Github提供的機(jī)器視覺相關(guān)模型，學(xué)習(xí)理解原羞電影中女主角的五官、輪廓、動(dòng)作、嘴型。然后讓模型在素材庫里尋找AI認(rèn)為各種角度和表情下合適的圖片和視頻，替換掉原來的視頻。

根據(jù)一些用戶用深度假貨的方法制作后的反應(yīng)，人工智能換臉其實(shí)很簡單。只要你有基本的計(jì)算機(jī)知識，并且計(jì)算機(jī)本身的配置符合要求，即使是新人也可以在幾個(gè)小時(shí)內(nèi)做出變臉視頻。不過這個(gè)時(shí)候AI變臉還是比較粗糙的，主要在國外流行。

后來為了紀(jì)念這位兄弟的貢獻(xiàn)，人們又把AI變臉技術(shù)命名為“深度假貨”。

AI的變臉真的在國內(nèi)紅了。今年年初，bilibili UPmaster“變臉哥”發(fā)布了94版射雕英雄傳視頻。在視頻中，原本扮演黃蓉的演員朱茵的臉被楊冪的臉取代。從流媒體視頻和動(dòng)畫來看，雖然是用AI合成的，但是整體效果非常逼真。

▲朱茵演黃蓉的臉換成了楊冪

這次事件在中國最大的影響就是讓AI變臉為普通人所知，也正是這次事件推動(dòng)了AI變臉黑產(chǎn)品在中國的逐步發(fā)展。

三、小鮮肉的“解藥”和演技

自從AI變臉出現(xiàn)以來，相關(guān)爭議從未停止過。AI變臉技術(shù)的“始祖”deep假貨，因?yàn)槠渥髌飞婕跋嚓P(guān)人的名譽(yù)和相關(guān)作品的版權(quán)而被封殺。

好萊塢女演員斯嘉麗·約翰遜是“受害者”之一，她在接受《華盛頓郵報(bào)》采訪時(shí)表達(dá)了對深度假貨的憤怒。她說:“每個(gè)國家都有自己的法律。即使你有自己圖片的版權(quán)，在其他國家也不適用。面對充滿網(wǎng)絡(luò)的AI變臉色情片，她和她的團(tuán)隊(duì)無能為力。”

▲斯嘉麗·約翰遜

在中國，楊冪版《射雕英雄傳》上映后，《我的變臉者》迅速在網(wǎng)上發(fā)酵，引起軒然大波。bilibili刪除視頻前點(diǎn)擊量超過20萬，微博話題閱讀量達(dá)到1.3億。

▲微博話題:用楊冪的臉代替朱茵的臉

然而，隨著話題越來越熱，批評和指控隨之而來。以微博官方粉絲群楊冪為代表的博主認(rèn)為AI變臉侵犯了公民個(gè)人肖像權(quán)。如果讓這項(xiàng)技術(shù)發(fā)展下去，普通人，尤其是普通女孩的個(gè)人隱私，將受到日益先進(jìn)的AI人臉分類技術(shù)的威脅。

也有一些微博用戶認(rèn)為電視劇里把朱茵的臉改成楊冪的臉只是為了技術(shù)交流，表達(dá)對偶像的喜愛。只要這項(xiàng)技術(shù)不被用在一些違法違規(guī)的事情上，也不是什么大事。

也有一些人有獨(dú)特的觀點(diǎn)，認(rèn)為小鮮肉最終會被拯救。希望這項(xiàng)技術(shù)能得到推廣，讓你再也看不到生硬無表情的表演...

記者還就此問題采訪了幾位“吃瓜者”。有人認(rèn)為AI變臉是技術(shù)進(jìn)步，但目前需要用錯(cuò)地方，需要政府部門立法監(jiān)管；有人覺得用AI變臉很可怕。想到有一天你的臉會被AI改變可能會讓人不寒而栗，但技術(shù)本身可能沒問題。

視頻制作人肖先生也在第一時(shí)間撤回了視頻，并對事件進(jìn)行了回應(yīng)。小先生(變臉哥)說他只是出于愛好，并沒有利用這個(gè)視頻牟利。他主要是想讓更多的人了解這項(xiàng)技術(shù)。

▲肖先生(變臉)微博回應(yīng)

監(jiān)管部門也注意到了AI變臉和AI脫衣服的危害性。今年4月，提交第十三屆全國人民代表大會常務(wù)委員會第十次會議審議。規(guī)定任何組織或者個(gè)人不得以信息技術(shù)偽造的手段侵犯他人肖像權(quán)。

5月底，國家網(wǎng)絡(luò)信息辦等相關(guān)部門發(fā)布了《數(shù)據(jù)安全管理辦法(征求意見稿)》，要求網(wǎng)絡(luò)運(yùn)營商利用大數(shù)據(jù)、人工智能等技術(shù)，自動(dòng)合成新聞、博文、評論等信息。用明顯的方式標(biāo)注“綜合”二字；不要以謀取利益或損害他人利益為目的自動(dòng)合成信息。

政府部門的這兩個(gè)行為也說明了，關(guān)于AI變臉的法律文件是會出臺的，如果以后AI變臉、AI脫衣服等應(yīng)用被用于相關(guān)操作，會損害他人利益或者涉及侵權(quán)違法。

第四，變臉黑生產(chǎn)已經(jīng)成為一個(gè)完整的產(chǎn)業(yè)鏈

AI變臉之初，更多的是把一部電視劇或者電影的主角的臉變成喜歡的明星或者你想見的人的臉。然而，隨著AI變臉技術(shù)的不斷發(fā)展，基于deep fax的應(yīng)用越來越多，如fakeapp、deepnude、faceswap等。這些應(yīng)用的出現(xiàn)也降低了用戶的門檻，很多電腦可以在短時(shí)間內(nèi)學(xué)會用AI變臉。

門檻降低，魚龍混雜。有些人專注于研究和分享他們的變臉作品，出于愛好或娛樂。也有一部分人看到這里的“商機(jī)”，就變臉打包出售。當(dāng)然最受歡迎的還是女明星。據(jù)一些賣家介紹，他們的變臉作品幾乎囊括了國內(nèi)所有一線二線女明星。

Http://oss.zhidx.com/uploads/2019/07/5d36a39770009 _ 5d 36 a 3976 c 215 _ 5d 36 a 3976 C1 ea _拍攝視頻2.mp4

▲商業(yè)演示成品視頻

在國內(nèi)，AI變臉已經(jīng)形成了一個(gè)黑色產(chǎn)品的產(chǎn)業(yè)鏈，上游提供軟件和技術(shù)，中間提供視頻，下游出售定制的照片和成品視頻，整個(gè)產(chǎn)業(yè)鏈有部分商家在做業(yè)務(wù)。據(jù)我調(diào)查，部分賣家供不應(yīng)求，很多人想要。黑色產(chǎn)品的規(guī)?？梢娨话?。

但是，不能否認(rèn)AI變臉了。AI變臉的出現(xiàn)可以說是影視劇界的一個(gè)驚喜。該技術(shù)有助于解決影視劇行業(yè)傳統(tǒng)換臉成本高、工作復(fù)雜、時(shí)間長的問題。

同時(shí)AI變臉的出現(xiàn)普及了這項(xiàng)很多人認(rèn)為很高的技術(shù)。畢竟變臉技術(shù)歷史悠久，AI變臉只是以更簡單更容易普及的方式出現(xiàn)，這本身就是AI技術(shù)發(fā)展的動(dòng)力。

比如有一部電視劇《風(fēng)神演義》，其實(shí)早在2015年就拍了，直到2019年才播出。原因之一是《韓國限制令》不得不改變飾演費(fèi)仲的韓國演員金江日的面貌。如果用AI來變臉，效率會高很多。

從以上所有案例可以看出，AI目前還處于“薛定諤的貓”狀態(tài)。在你完全了解這項(xiàng)技術(shù)之前，你不知道它會帶來什么，但有一點(diǎn)是可以肯定的，那就是技術(shù)本身是無辜的，只有懷有惡意的人才是有罪的。

結(jié)論:技術(shù)無罪，但應(yīng)加強(qiáng)監(jiān)管

也許deep假貨甚至沒有想到他的一個(gè)變臉視頻能帶來這么大的影響。從美國到中國，AI的受眾越來越多，受害者也越來越多，變臉。美國好萊塢明星和中國一二線女性顯然難以逃脫。

AI人臉變換技術(shù)作為深度學(xué)習(xí)算法，簡單來說就是代碼和數(shù)字。通過這種算法，視頻或照片中的一張臉可以被另一張臉替換，這不涉及任何非法或侵犯隱私的行為。

然而，許多人通過使用這種技術(shù)獲得異常利潤。他們利用這種技術(shù)的低入門門檻和一些人的小心思，大量制作色情變臉視頻，進(jìn)行銷售，甚至直接銷售軟件和教程。

面對這樣的混亂局面，也許只有政府層面的監(jiān)管和約束，才能有效遏制AI變臉黑產(chǎn)品的不斷蔓延。技術(shù)的發(fā)展總是伴隨著各種各樣的問題，所以不急于否定，采取最好的方法去擺脫不好的可能是一種正確的態(tài)度。

就像上面吃瓜的人說的:“技術(shù)本身沒問題，只是用錯(cuò)了地方?！?/p>