最近，多家软件应用商店和 Meta 宣布下架了一款受到了巨大争议的换脸应用程序，该应用程序发布了一则带有强烈暗性示的广告，并且在没有经过出演过“哈利波特”中赫敏角色的演员——艾玛沃特森的同意下，将她的脸“放在”了其他人的身体上。 

这款应用程序名为 FaceMega，是一个人工智能深度伪造人脸的应用。

作为其进行广告宣传活动的一部分，很多网友发现在他们在使用 Meta 和 Instagram 等社交平台的时候，刷到了艾玛沃特森正在微笑着与一个人调情，然后在一个男人面前突然弯下腰跪了下来。紧接着出现了一段标题是：

“使用这个程序，你可以将任何人的脸放到视频中的人脸上！” 

这则的视频广告被发布到 Twitter 之后获得了百万次的观看累计数量。

NBC 新闻爆料了这个事件，并且据他们统计之后发现，有 230 个这样的视频广告在 Meta 和 Instagram 等社交平台上被投放。

其中 127 个广告视频以艾玛沃特森为主角，74 个视频广告则是以斯嘉丽约翰逊为主角。所有这些视频都是女明星们被”换脸“到他人的脸上，进行一些具有强烈暗示性的性挑逗行为。

NBC 新闻在对 FaceMega 调查后发现，虽然广告视频中没有做出实际性的性行为，但它们的暗示性质说明了如果某人使用了该应用程序，就有可能用它来生成伪造的性内容。

该应用程序于 2022 年首次出现，9 岁及以上的用户就可以免费下载，它允许用户上传视频进行操作，还提供了数十个视频模板，其中模板类别包括“时尚”、“男士”、“女士”、“TikTok”等等，而选项之中最受欢迎的类别被称为“热门”，里面包含大量穿着暴露的男、女在跳舞的视频。

选择好了视频模板或上传自己的模板后，用户可以输入一张任何人的面部照片，并在几秒钟之内就会收到换脸版的视频。这一切操作只需每周支付 8 美元，就可以实现。

虽然目前 FaceMega 已从 Apple App Store 和 Google Play Store 中被删除，但是网上仍然大量的传播着深度伪造换脸技术所制作的“假视频”。

这早就不是第一次深度伪造换脸技术引发道德和隐私问题的忧虑了。

这次艾玛的广告事件只不过是因其明星身份，以及大量投放广告引起媒体报道，所以被众人所皆知。事实上在很多年前换脸技术出现的时候开始，女性就成为了这项技术的第一批被害者，这种技术的滥用会很容易会彻底地扰乱某人的生活。

这项技术的“平民化”导致了不需要技术门槛，任何人都可以轻易地进行使用。人们所要做的就是上传一张某人的脸，就可以使用 50 个免费模板。

近年来由于技术的进步发生得太快，以至于无法对其立刻进行立法，所以目前为止有效的方式竟然还是在靠网友们的舆论讨伐，以及公众所施加的道德压力来制止。

例如此次事件后，Meta 方就声明它正在加强对内容审查的控制，并特别提到了深度伪造的日益流行。Meta 表示，它们的政策禁止“少儿不宜”的内容，无论它是否由 AI 生成，此类内容的页面都被禁止在 Meta 的平台上做广告，并会删除那些故意利用 AI 来对他人的肖像进行编辑的视频和照片。

然而，虽然 FaceMega 已经被下架了，但是其他类似的应用软件仍然能够在各大应用下载网站里被下载。

总部位于阿姆斯特丹的媒体监测公司 DeepTrace 在 2019 年的一份报告中发现，96% 的在线深度伪造材料具有“少儿不宜”的性质。 

研究发现，自 2018 年以来，深度伪造那种“动作”内容的视频的数量几乎每年翻一番。

2018 年，只有 1897 个视频被上传到一个知名的深度伪造流媒体网站。但到 2022 年，这个数字增加到 13000 多个，每月观看次数超过 1600 万。

而今年 2 月份，则是有史以来上传的深度伪造“动作”视频数量最多的一个月。

今年 1 月，关于深度伪造换脸的争论就已经在游戏主播界掀起了波澜。

当时一位拥有超过 300000 名粉丝的热门 Twitch 男主播承认观看了由 AI 生成的其他女性主播的深度伪造换脸“动作”视频。 

1 月 30 日，这位名叫布兰登尤因（化名：Atrioc）的男主播在 Twitter 上发布了一段泪流满面的道歉视频，该视频获得了数百万的观看次数。

他声称自己在浏览一个热门的视频网站时，点击了一则深度伪造的“少儿不宜”的广告。他表示他被激起了好奇心之后，就继续在另一个网站上订阅了内容并进行支付观看，这些内容展示的是其他几位女性主播被“换脸”的视频。

2 月 1 日，他在 Twitter 上发布了一份更长的声明，尤因直接向 Twitch 主播 Maya Higa 和 Pokimane 喊话，并表示抱歉。

女主播立即追踪到一个订阅网站上的账户，发现是他上传的视频之后对其发出了删除通知。但视频一经传播就会像野火一样在网络上蔓延。并且讽刺的是，在这则道歉推文发布之后，当月该网站的访问次数激增。

在技术越来越普及的当下，受害者群体也在不断扩散至各行各业、各个年龄层。一开始是一些人通过 AI 换脸将明星、网红的脸放到视频中，到后来受害者群体开始蔓延到普通人，并且不仅仅是成年人深受其害。根据某“动作”网站数据统计，AI 换脸未成年儿童的视频数量正在不断增加中。虽然技术的发展势不可挡，但小编认为在享受技术带来的便利之外，同时也要警觉是否会对人的权益造成伤害。