一项AL技术将“造假”推向极致,GAN如何“批量制造现实”

姓名:汤胜杰    学号:14020110026

转载自http://mp.weixin.qq.com/s/oKPa1FS5p_6xsStNz3njfg

【嵌牛导读】: 一直以来，人类想要判断事件真假、是非对错，常常会说“眼见为凭”、“有图有真相”，但这些准则很有可能即将失灵，因为一项被誉为近十年来机器学习领域最有趣的突破——生成式对抗网络（GAN）很有可能因为误用而扰乱我们的认知。过去，我们可以将一段视频视为是某件事情发生的证据，但像 GAN 这样的人工智能技术出现之后，可以创造出更容易让人信以为真的假图片、假视频。

【嵌牛鼻子】：生成式对抗网络 人工智能

【嵌牛提问】：GAN技术的发展会不会使图片图像的造假变得难以辨别？

【嵌牛正文】：

GAN 能利用现有的数据来建立已经带有标注的图像，如此就能减少上述提及需要大量人力来标注数据的麻烦。因此，被人工智能先驱、Facebook 人工智能研究院（FAIR）院长 Yann LeCun 赞许是“机器学习最近 10 年来最有趣的想法”，NVIDIA 创始人黄仁勋口中的“一项突破性的发展”。

GAN 独到之处在于同时训练两个网络，一个是生成网络（generator network），又称生成器（generator），另一个是判别网络（discriminator network），又称判别器（discriminator），而且让这两个网络相互对抗、彼此竞争却又互相学习。

图片发自App

生成器想的是骗过判别器，或是让判别器觉得它做的东西是好的，而判别器的任务就是去抓什么是真实的，什么是生成器做的。可以想象成是一个是罪犯，另一个是警察，互相斗智，谁也不让谁。而你想要变得超强，就是要有一个神一般的对手，就是 GAN 的核心精神。

而 GAN 与另一项技术强化学习（RL，Reinforcement Learning），听起来有点异曲同工，不过，两者还是有所差异。GAN 有一个生成器、一个判别器。在强化学习里则是有一个 Agent，一个环境，两者会不断互动，环境会给 Agent 奖惩分数（reward），Agent 会不断更新参数，以争取环境给它的分数值越大越好。所以，Agent 的角色类似生成器，环境就象是判别器，但环境的参数是固定的，判别器的参数是会不断更新，这就是 RL 和 GAN 的最大差异。

“GAN 做的事很像‘演化’”，专门研究 GAN 的台湾大学电机工程学系教授李宏毅道出重点，他解释，演化是突变跟自然选择的结果，例如眼睛是怎么产生的呢？复杂的器官并不会凭空出现，可能会先出现一个例如感光细胞的简单版本，通过很多步骤慢慢演变成眼睛，GAN 也是如此。刚开始 GAN 生成出来的东西可能不太好，但经过多次更新之后，就可能创造出非常逼真的东西。

李宏毅进一步指出：“GAN 有利于 AI 在结构学习（structured learning）研究的突破，当你今天想要机器输出的东西（output）是具有结构性，也就是由许多零件构成的，例如句子、音乐、图片，使用 GAN 会比其他技术得到更好的结果。”

图片发自App

事实上，一个训练良好的 GAN 再配上丰富的计算资源，想要制造出以假乱真的图片或影像，已经是可以实现的事了。利用 GAN 来制造假新闻，或是把假图像、假视频发布在社交媒体上，恐怖程度就不只是恐怖谷讲的情感面的厌恶而已，很可能成为别有用心者操弄人民跟社会的工具，甚至是造成群体对立，上升为一种外交冲突、国家安全等级的问题。

人们正在创造更复杂的技术，使得数字媒体判别的发展始终追不上影像处理技术的脚步。因此，不论是 GAN 或是其他 AI 技术，有没有可能制造出一个能让一般大众信服的假图片、假视频，只是时间问题，而非可行或不可行。