DeepFake威胁加剧，女性更易成为受害目标

　　尽管人们对利用 DeepFake 来操纵选举、在世界各国制造混乱的做法高度关注，但其中绝大多数人实际上更为幼稚，他们会将女性名人的面孔映射到色情明星的身体上，任何熟悉互联网历史的人都不会对此感到惊讶。

　　在最近关于全身 DeepFake 的报道中，一家名为 Deep Trace Labs 的公司表明他们对合成媒体领域已开展广泛研究，这家位于阿姆斯特丹的公司过往专注于 AI 操控内容。今天，该公司发布了一份备受期待的报告《DeepFake 现状：前景、威胁和影响》，他们在报告中探讨了在网站、论坛和移动应用中普遍存在的 DeepFake。

　　正如 Deep Trace Labs 的 Giorgio Patrini 所解释的，这项研究始于该公司 2017 年成立之时，包括对网站、论坛和服务的全面检查。研究人员梳理了论坛和 DeepFake 社区的帖子，找到晦涩和不太受到关注的元素，以全面了解 DeepFake 对现状的威胁。Deep Trace 通过其内部开发的公共 API 和特别工具从这些网站、渠道、论坛和社区收集数据。它还可以查看网站或 YouTube 频道，在这些网站或频道中，并非所有内容都可能来自 DeepFake。

　　Deep Trace 发现，目前网上有 14678 个 DeepFake 视频，其中 96% 是色情视频，并且大部分都是著名女演员的脸，被转移到色情明星的身体上。事实上，大多数 DeepFake 的目标是女性，而大多数非色情的目标是男性。YouTube 上超过 90% 的 DeepFake 视频都来自西方世界，从女演员、音乐家到政客和企业界人士。但 Patrini 强调，这不仅仅是一种仅限于西方的现象。

　　“在 DeepFake 色情网站上，近三分之一的视频中出现了非西方题材，其中韩国流行歌手占了目标对象的四分之一，”Patrini 说道。“这表明，DeepFake 色情是一种日益全球化的现象。”

　　“我们的数据显示，大多数实际上仍然是演员，但也有少数企业和政治领导人，”Patrini 说道。“我认为这可以归因于与非色情 DeepFake 相关的生命力机制。”创造者主要是业余爱好者，他们试图创造高质量的 DeepFake 成果。选择知名人物，如马斯克、特朗普或者 Nicholas Cage，意味着你的“DeepFake”成果更容易被人看到，同时也增加了喜剧元素。

　　据介绍，在过去几年里，关于生成性对抗网络（GANs）的论文数量激增，生成性对抗网络是两种神经网络，一种是合成器或生成器，另一种是检测器，可以生成 DeepFake 的图像或视频，然后在反馈环中仔细检查质量，直到最终产品令人信服地得到改进。生成性对抗网络绝不是 DeepFake 的幕后黑手，但 Patrini 表示，它们无疑是“由深度学习驱动的最流行和最有效的生成方法”。

　　Deep Trace 的研究表明，生成性对抗网络发文量的显著增长，只能间接地表明这两种现象具有相关性。Deep Trace 无法在更多的生成性对抗网络研究和 DeepFake 的增加之间，建立起直接的因果关系。

　　“不仅仅是具有博士学位的研究人员，更多的人都能够试验并提出新的算法变体，而且我们可以通过论文的增长来间接衡量这一点，”Patrini 表示。“发表更多的实验成果并将其扩展到新的应用表明，这些想法有可能被转化为可重用代码和更可靠、更高效的工具，来供非专家使用。”

　　Deep Trace 还指出，DeepFake 创作社区正在增长。Github、4chan、8chan 和其他基于论坛的网站都共享开源的 DeepFake 代码。

　　“我们在报告中指出的一个关键点是，与其他社区相比，某些社区的动机和活动非常不同，”Patrini 表示。“如果我们只看负面新闻，很明显，一些社区和论坛主要集中在使用 DeepFake 的创作工具，来制作那些非自愿的 DeepFake 色情作品。”

　　Patrini 认为，其中一些社区以提供非法或边缘化的内容而闻名，这方面以 4chan 和 8chan 为代表。在这些平台上，DeepFake 创作工具的商品化，可能会导致该技术继续产出有害和恶意的使用案例，例如网络欺凌或政治宣传。

　　但 Patrini 很快注意到，其他平台上也都有爱好者和一些个体，在 YouTube 上专注 DeepFake 的博主更符合他们的兴趣。比如博主 Ctrl Shift Face，他曾将 Tom Cruise 和 Al Pacino 的脸变成了喜剧演员和印象派 Bill Hader 的脸。

　　Patrini 认为：“我不会说这些用途具有明确的正面作用，但从表面上看，它们肯定不是恶意的。”此外，由于 DeepFake 不只是发生在西方的现象，Deep Trace 认为，这需要全球采取行动，打击恶意使用。

　　“从已经出现的各种工具和网站的数量可以看出，DeepFake 对企业来说具有巨大的商机，”Patrini 指出，这有助于这些工具的商品化和日益普及。“仅仅是 DeepFake 的想法就足以动摇政治进程。”