在脸书的一则广告中，一名长得和女演员艾玛·沃森一模一样的女子在镜头前弯下腰，害羞地微笑着，似乎要开始性行为。这则广告是本周深伪应用程序大规模活动的一部分，该应用程序允许用户将任何面孔转换成他们选择的任何视频。 6park.com

深伪是指面部或声音被切换或操纵。通常，深伪的创作者会制作一些视频，让名人看起来像是自愿出现在视频中，尽管他们并不是。越来越多的技术被用于制作非自愿的色情作品，以名人、有影响力的人或包括儿童在内的任何人的面孔为主角。 6park.com
在Meta上的广告宣传表明，这种曾经先进的技术已经迅速传播到互联网主流部分的消费者应用程序。尽管许多平台禁止操纵性和恶意的深度造假内容，但像NBC新闻评论的这些应用程序却能够钻到漏洞中。 6park.com
根据对Meta广告库的回顾，周日和周一，一款用于创建“DeepFake FaceSwap”视频的应用程序在包括Facebook、Instagram和Messenger在内的Meta服务上推出了230多个广告。其中一些广告看起来像是色情视频的开头，播放着色情平台Pornhub的开屏歌曲。几秒钟后，这些女性的脸和艾玛·沃森的面孔发生了互换。 6park.com
当田纳西州的新闻系学生劳伦·巴顿(Lauren Barton)在另一个应用程序上看到同样的广告时，她非常震惊，把它录了下来，并在推特上发了出来。根据推特的浏览量计数器，这条广告的浏览量超过了1000万次。 6park.com
巴顿说：“这可以用于在公立学校被欺负的高中生。这可能会毁了一个人的生活，他们可能会在工作上遇到麻烦。这种视频做起来非常简单，而且是免费的。我所要做的就是上传一张我的脸部照片，我就可以获得50个免费模板。” 6park.com
在Meta的广告中，有127个是沃森的肖像。在另外74个视频中，女演员斯嘉丽·约翰逊(Scarlett Johansson)的脸被其他女性换了。两位女演员都没有回应置评请求。 6park.com
其中80个广告的说明文字写道：“任何人都可以换脸。享受人工智能换脸技术。” 6park.com
周二，在NBC新闻联系Meta发表评论后，该应用程序的所有广告都从Meta的服务中删除。 6park.com
虽然视频中没有性行为，但其暗示性说明了该应用程序可能被用来生成虚假的性内容。该应用程序允许用户上传视频进行操作，还包括数十个视频模板，其中许多似乎来自TikTok和类似的社交媒体平台。 6park.com
预设类别包括“时尚”、“新娘”、“男性”、“女性”、“抖音”，而选项最多的类别是“热门”。视频中有衣着暴露的男女跳舞和摆姿势。在选择视频模板或上传自己的视频模板后，用户可以输入任何人的一张面部照片，并在几秒钟内收到视频的换脸版本。 6park.com
这款应用每周收费8美元，其服务条款称，它不允许用户通过其服务冒充他人，也不允许用户上传色情内容。应用开发商名为Ufoto Limited。 6park.com
Meta在2020年禁止了大多数深伪内容，该公司禁止在广告中出现成人内容，包括裸体、以露骨或暗含的姿势描绘人物，或性挑衅的活动。 6park.com
Meta的一位发言人在一份声明中说：“我们的政策禁止成人内容，无论这些内容是否由人工智能生成，我们已经限制了这个页面在我们的平台上投放广告。” 6park.com
同样的广告也出现在从苹果应用商店下载的免费照片编辑和游戏应用程序上。该应用程序于2022年首次出现在苹果应用商店，目前9岁及以上儿童仍可免费下载。 6park.com
苹果公司的一名代表表示，该公司对深度造假没有具体规定，但该公司禁止包含色情和诽谤内容的应用程序。苹果公司表示，在NBC新闻联系后，已经将这款应用从应用商店下架。 6park.com
该应用程序也在谷歌Play上，并被列为“暗示性主题”。 6park.com
在应用商店中搜索“deepfake”，会出现数十个具有类似技术功能的应用，包括那些宣传制作“热门”内容的应用。 6park.com
深度造假技术绝大多数都被用于与未经同意的明星制作色情作品。随着技术的进步和普及，未经双方同意的性图像市场迅速膨胀。一些网站允许用户通过付费墙出售未经双方同意的深度伪造色情内容。 6park.com
虽然在大多数州，在未经同意的情况下分享露骨的照片和视频是非法的，但针对深度造假媒体的法律只在加利福尼亚州、佐治亚州、纽约州和弗吉尼亚州生效。