AI換臉調查：淫穢視頻可定制女星，700部百元打包賣

美國金融危機的原因？美國金融危機的原因

AI換臉調查：淫穢視頻可定制女星700部百元打包賣

榮科科技股吧,榮科科技股吧

基金實時凈值,基金實時凈值

AI換臉的颶風，正為絡安全帶來挑戰。

波段選股,波段選股

新京報記者近来調查發現，隨著AI技術走紅以及門檻下降，售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜“換臉＋女明星名字”的發帖者，售賣通過AI換臉技術组成的視頻，價格可4元一部，也可158元打包購買700部視頻。而多位闻名女明星頻被提及。

此外，新京報記者註意到，閑魚上還有賣傢供给“定制換臉”服務。買傢供给明星或私家相片，賣傢即可將淫穢視頻中的主角“偷梁换柱”。定制換臉視頻1分鐘20元－50元不等。

對此，聯合國絡安全與絡违法問題高級顧問吳沈括對新京報記者标明，售賣AI換臉淫穢視頻，自身已經是傳播淫穢物品牟利罪，同時也侵略瞭肖像權。而買傢購買之後加以傳播或许以傳播牟利，則或许構成違法。

售賣

女星頻被“換臉”，35部視頻打包69元

記者查找發現，“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發帖者多為無頭像、簡單英文字母名稱的用戶，并且發帖用詞隱晦，包含“國內外81部，誠信榜首”。

記者聯系到一位名為阿長的賣傢，其隨後發來“80部明星组成視頻列表”的壓縮包，包含多部淫穢視頻的列表截圖，文件名上標註出多位大眾熟知的女明星。

“低於15部算4元一部，超過15部算3元一部，80部全買隻要68元。”阿長标明，視頻文件將通過QQ文件發送，支撑微信、付出寶、QQ紅包等付出方法。記者4元隨機購買瞭一個標題為某闻名女明星的視頻。視頻中女主角臉部悉数替換成瞭該女明星，盡管換臉作用粗糙，但仍能一眼識別出來。

隨後，阿長附贈瞭相關視頻的剪輯版别，包含多個淫穢視頻的部分內容，其间女主角的臉全被替換成瞭這一女星。

另一位發帖的賣傢林祥則是向記者發送瞭盤鏈接，盤中除瞭視頻目錄、截圖、試看視頻等文件，還包含一個單獨被命名為某闻名女明星目錄的文件。

“打包價158元，700部視頻，買打包送截圖。”林祥供给的壓縮文件顯示，多位女明星被換臉成主角的頻率最高。

“有30分鐘、40分鐘的，也有5分鐘的，有像的也有不像的，所以單買價格不或许一樣。”林祥稱，單個視頻根據時長和制造作用定價。

而上述某闻名女明星目錄文件中包含35部視頻，打包價69元，單賣約5-10元一部。時長10分鐘以上的視頻為每部20－28元。

記者詢問阿長，其他售賣相關視頻的賣傢是否也是他時，他隨即否認並拿出更新目錄。“他必定沒這些，我這會更新”。他告訴記者，這些視頻並非自己制造，均來自國內某絡平臺，充值會員可以下載，然後再分銷。

不過，記者通過檢索並未發現這類國內絡平臺。

定制

供给相片或視頻可偷梁换柱，“相片越多越像”

除瞭百度貼吧，二手閑置平臺閑魚同樣存在相關售賣信息。記者在閑魚上查找“AI換臉”看到，“AI換臉明星最全精品”、“AI換臉，合集，都懂！”等信息，實則在售賣“嫁接”瞭女明星臉部的淫穢視頻。

記者分別與4位賣傢進行瞭溝通，其一般會供给標有女明星名字的目錄截圖，並以100部打包的方法售賣，價格從10元－38元不等。賣傢子君告訴記者，在他打包售賣的淫穢視頻中，闻名女人明星被惡意“嫁接”的最多。

此外，記者檢索閑魚發現，部分賣傢還供给“定制換臉”服務，買傢供给明星或私家相片，賣傢可將相片中的臉“嫁接”到包含淫穢視頻在內的任何視頻之中，制造周期為1-2天，報價1分鐘20元－50元不等。

賣傢高爾标明，視頻资料和相片需求買傢供给。“相片要多點，側面等各個视点，至少需求供给二十張以上。相片越多越像，沒相片發視頻也行”。

另一賣傢要求，假如是“換臉”淫穢視頻，3分鐘起做。該賣傢的定制價為一分鐘50元、二分鐘95元、三分鐘135元，也就是說，買傢至少要花費135元才干定制換臉淫穢視頻。

記者近来在閑魚平臺查找“AI換臉”顯示9個产品售出，包含“換臉軟件”、“定制換臉”和“換臉教學”，有部分賣傢在产品信息中註明，“本店僅負責服務装备環境和教授基礎知識，不幫忙操作，請各位自覺恪守當地法令，否則後果自負”。

記者調查過程中註意到，閑魚平臺已將部分淫穢視頻售賣鏈接刪除。

此外，記者在淘寶查找“AI換臉”，20多傢店鋪有相關售賣信息。記者隨機詢問7傢店鋪，其间4傢店鋪供给定制服務，但有賣傢明確标明“不做黃、不辦證”。該賣傢還向記者默認曾有人要求他制售假證。

教學

賣傢稱398元包教會，學生打七折

記者在检查上述視頻時註意到，部分視頻有“组成聯盟”的字樣及其QQ號水印。記者通過這一QQ號聯系到昵稱為“明星组成＋教學＋代做視頻”的賣傢，其稱不僅售賣明星換臉視頻和定制換臉服務，還供给教學服務。

“買教學送全套視頻，600多部。”該賣傢标明，他供给AI換臉視頻的制造教學服務，售價398元，包教會並附贈淫穢視頻600多部。“我們用的雲電腦，做出來作用是Deepfake的幾十倍。”該賣傢告訴記者，“買雲電腦送FakeApp和DeepNude。”

賣傢供给的教學內容顯示，用戶根據指引，完结“鏈接到雲硬盤、提取臉部數據、訓練模型、換臉輸出視頻”四個步驟就能實現AI換臉視頻的制造。

“感謝你們的信赖，昨天下午剛學的，不到3個小時全會，隻要想學我都會盡心盡力的教你們。”該賣傢的微信朋友圈顯示，已有多位學員學習瞭相關AI換臉技術。

記者翻閱賣傢朋友圈看到，“AI智能暑假日間一切學生憑學生證一概7折，一學就會，不費勁。”而賣傢供给的截圖顯示已有學生供给學生證信息，並購買瞭該教學服務。

根據《紐約時報》報道，Deepfake指的是用人工智能軟件制造的虛假視頻，由FakeApp程序創建而成，FakeApp則可實現AI換臉。而DeepNude可通過人工智能將相片中穿著衣服的人物實現“一鍵脫衣”的作用。

“隨著科技的發展，大眾必定會面臨這樣的問題，DeepNude生成的相片並不是自己，而是PS後作用。”絡安全專傢張百川在承受新京報記者采訪時标明，现在絡上已存在部分人士開始研讨類似的算法。

同時，針對絡安全，吳沈括指出，《絡安全法》確立瞭絡產品和服務的安全可控原則，將别人肖像用於制造淫穢視頻或许运用絡技術“作惡”，是對别人合法權益的损害。

爭議

換臉視頻絡紮堆，個人難防中招

其實，AI換臉技術，已經在各個領域沿袭許久。而運用最廣泛的領域就是電影。據新京報此前報道，中國科學院計算技術研讨所張傑解釋稱，“這個技術簡單可理解為，通過學習的方法讓一個神經絡把李四歪曲過的人臉還原成真實的人臉。”該神經絡在學習後，具備瞭將恣意的人臉，還原成“李四”人臉的才能。

早在今年年初，一段通過AI技術將《射雕英豪傳》中朱茵臉部替換成楊冪的視頻在絡引起熱議。記者查找發現，視頻站嗶哩嗶哩上存在很多AI換臉視頻，且人氣較高。其间，一個將蔡徐坤臉部替換成前絡遊戲主播盧本偉的視頻，播放量達到253.1萬。不少友在相關視頻評論區留言稱“毫無違和感”、“好笑哈哈哈”。

阿樂告訴者，出於獵奇和娛樂心態，自己喜歡在嗶哩嗶哩觀看AI換臉視頻。“把外國人的臉換在古裝人物身上，很别致。”但也有友在相關評論區稱“AI換臉敲詐勒索色情造謠，技術無罪，公然還是人本惡”。

律師、星娛樂法創始人李振武曾對新京報記者标明，視頻制造者未經朱茵和楊冪許可，私行运用其肖像，雖其抗辯未有營利行為，但在互聯語境裡，流量變現以及粉絲倍增，都很難解釋為非營利行為，因而，此舉或许涉嫌侵略肖像權。

有觀點認為，AI換臉技術門檻正在不斷下降。對此，張百川稱：“放在曾经的話，技術難度非常大，已經有人開始研讨這種算法瞭，假如算法公開，這種趨勢將很難抵擋”。

張百川告訴記者，普通人或许不太简单學會AI換臉技術，但有人或许运用此項技術制成有類似功用的軟件，那麼普通人隻要在APP上傳相片即可。針對個人怎么防备，張百川标明：“很難，假如你有相片在互聯上，就會有的風險”。

記者註意到，Deepfake和DeepNude在國外已引起熱議，據《紐約時報》報道，隨著越來越多的人运用FakeApp制造名人的色情視頻，FakeApp正在引起惊惧。《衛報》稱此類軟件為“對未來可怕的一瞥”，顯示瞭對人工智能未來或许形成的倫理問題的擔憂。

當地時間7月2日，美國弗吉尼亞州已通過一條有關色情禁令的法令修正案，成為美國第一批制止傳播計算機生成的色情內容的地區之一。根據修正案，未經許可傳播或出售以任何方法創作的或人處於裸體或脫衣狀態的視頻或靜止圖像都是違法的，包含虛假創作的視頻或靜止圖像。

在我國，根據《刑法》第三百六十三條規定，以牟利為意图，制造、復制、出书、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或许控制，並處罰金；情節嚴重的，處三年以上十年以下有期徒刑，並處罰金；情節特別嚴重的，處十年以上有期徒刑或许無期徒刑，並處罰金或许沒收財產。

聯合國絡安全與絡违法問題高級顧問吳沈括标明，就中國法令來講，售賣AI換臉淫穢視頻，自身已經是傳播淫穢物品牟利罪，同時在民事侵權領域，未經允許，將别人的肖像用於謀利的，也侵略瞭肖像權。

針對AI換臉淫穢視頻的購買者，吳沈括告訴記者，现在對於購買淫穢物品沒有設置法令責任，首要会集在傳播淫穢物品和傳播淫穢物品牟利兩種不合法方法。買傢在購買AI換臉淫穢視頻之後，加以傳播或许以傳播牟利，則或许構成違法乃至违法。

張百川認為，技術自身沒有問題，是有人运用技術作惡，大眾需在日常日子中，註重個人隱私保護。“例如即時通訊軟件，有人用它作业，有人用它詐騙。”

新京報見習記者程子姣記者陳維城編輯王進雨校對薛京寧