Mr. Deepfakes 网站一度吸引了大方“不良”用户。考虑职员指出,这些用户答应支出高达 1500 美元的价钱,让创作家利用先辈的 AI 身手,正在未经名士或其他倾向人物附和的情形下,利用她们的脸创制色情视频。考虑职员觉察,正在功夫,Mr. Deepfakes 有 4.3 万条视频的浏览量逾越了 15 亿次。这些视频由近 4000 名创作家创制,这些所谓的“创作家”从这种不德行且当前已属违法作为的营业中获取了暴利。
可是,从本周起,这些视频再也无法观察了,且曾用来供用户提出创制新视频请求的论坛也已紧闭。遵照该平台颁布的一则通告,当 “一家枢纽供职供应商”“万世” 终止供职时,网站就被合停了。
Mr. Deepfakes 外明称:“数据损失让平台无法连续运营。” 同时他们正告,正在其紧闭后,不要相相信何之后呈现的冒牌平台。“咱们不会从头上线。任何声称是咱们的网站都是假的。这个域名最终会逾期,咱们错误其改日的利用卖力。这条音信将正在一周支配后删除。”
目前尚不明确结局是哪家供职供应商割断了 “Mr. Deepfakes” 网站的供职。但,考虑职员指出,深度伪制创作家要陆续创制这类内容,“最枢纽的因素” 之一是通过谷歌 Colab 札记本供应的 “免费层级的云 GPU 拜访权限”。
Mr. Deepfakes 网站的倒闭正值美邦邦会通过《删除法案》之后 —— 该法案原则,创修和宣扬未经附和的私密影像(NCII)属于违法作为,个中征求由 AI 天生的合成私密影像。任何收到相合 NCII 通告的平台务必正在 48 小时内将其删除,不然将面对美邦联来往易委员会的司法行为。司法行为要到来岁春天分会先河施行,但该供职供应商可以是由于这项执法的通过而封禁了 “Mr. Deepfakes” 网站。据《连线》杂志报道,客岁,正在英邦宣告无意通过相同执法后,“Mr. Deepfakes” 网站就争先先河障蔽来自英邦的拜访者。
可是,“Mr. Deepfakes” 网站的紧闭并不行处置深度伪制题目。2022 年,跟着 AI 身手使合成的 NCII 愈发传神,深度伪制内容的数目快速推广,这促使美邦联邦考察局正在 2023 年发出正告,指点群众这类伪善内容正愈发频仍地被用于性欺诈作为,但社会用来阻拦其宣扬的即时处置计划却成效甚微。
据考虑职员称,“Mr. Deepfakes”(一个切实存正在的人,身份匿名,但据报道是众伦众一名 36 岁的病院职责职员)开采的秩序胀舞了深度伪制内容的激增。考虑职员觉察,他开采的 DeepFaceLab 软件缓慢成为 “领先的深度伪制软件,据揣度,95% 的深度伪制视频都是由这款软件创制的,且该软件正在 GitHub 上已被复制了 8000 众次”。关于普及用户来说,他的平台上有可供采办的视频,倘使视频创制得很逼线 美元;而更有踊跃性的用户则会通过论坛提出请求,或者晋升自身的深度伪制身手,成为创作家。
“Mr. Deepfakes” 的犯罪营业最早始于 Reddit,但正在 2018 年被封禁后,就变化到了他自身的平台上。正在那里,数千名深度伪制创作家分享身手常识,考虑职员客岁指出,“Mr. Deepfakes” 网站的论坛最终成为了 “创制深度伪制色情内容的独一可行的身手援手起源”。
因为之前依然转移过一次,这个群体该当仍然会通过新的平台来连续创制犯罪内容,且“Mr. Deepfakes” 犹如念避开群众的合心,于是可以会以一个新的名字从头呈现。据悉,早正在 2023 年,考虑职员揣度该平台有逾越 25 万名成员,他们中的很众人可以会缓慢寻找取代平台,乃至测验搭修一个取代平台。
“Mr. Deepfakes” 的可怕统治可以还未解散,这一可以性进一步推广,由于 DeepFaceLab 正在 GitHub 上的存储库(已于 11 月存档,无法再举行编辑)还是可供任何人复制和利用。
404 Media 报道称,很众 “Mr. Deepfakes” 网站的成员依然正在 Telegram 上得到了合联,据报道,正在 Telegram 上也时时有合成 NCII 的营业。加州大学伯克利分校的熏陶、数字伪制图像周围的顶尖专家汉尼・法里德吐露:“固然此次合停是一个好的先河,但相同如许的平台又有许众,因此咱们不行就此止步。”