一些怀疑者“要求用手机录制一段视频,以证明这不是定格动画或CGI”。REGIUM在一封电子邮件中表示,“我们照做了,也把视频发送过去了。任何人都可以看到,在视频中定格动画或CGI是绝对不可能存在的”。 用GAN生成人脸图像真的这么无懈可击吗? Wang所提到伪造人脸的StyleGAN来自英伟达,可以说是近年火遍全网的“造假”神器了。与其他生成器不同,StyleGAN可以根据需要更改生成图像的结果,绘制出的图片更加逼真,不仅可以创造假的人类肖像,也被疯狂应用于其他机器学习应用项目,例如汽车、房间、甚至是动漫人头等。 REGIUM疑似使用的就是这个利用GAN来生成不存在的人脸图像的网站,点开网站之后,每次刷新页面,算法都会从头开始生成新的人脸图像。 网站链接: http://thispersondoesnotexist.com/ 该网站使用的是一种称为StyleGAN的机器学习技术,StyleGAN最初是由英伟达在一篇论文中《一种用于生成式对抗网络的基于生成器体系结构的方式(A Style-Based Generator Architecture for Generative Adversarial Networks)) 论文下载地址: http://arxiv.org/pdf/1812.04948.pdf 据论文介绍,StyleGAN是一步一步地生成人工图像的,从非常低的分辨率开始,一直到高分辨率(1024×1024)。通过分别地修改网络中每个级别的输入,它可以控制在该级别中所表示的视觉特征,从粗糙的特征(姿势、面部形状)到精细的细节(头发颜色),而不会影响其它的级别。 这种技术不仅可以更好地理解所生成的输出,而且还可以产生最高水平的结果,即比以前生成的图像看起来更加真实的高分辨率图像。 英伟达的代码链接: http://github.com/NVlabs/stylegan Philip Wang还在一封电子邮件中表示,绝大多数人都不知道,将来AI在合成图像方面会有多么出色。 不过,尽管非常逼真,但是StyleGAN生成的图片中还是存在一些技术缺陷,文摘菌之前也曾报道过,如何区分真假图片的几个方法,比如,有时候在生成的照片中,乍一看似乎与真实照片没有什么区别,但仔细一看,会发现图像中有一些奇怪的光线会漂浮在人物周围,或者是局部出现奇怪的变形。这也是Wang能够一眼看出照片伪造的关键所在。 GAN于 2014 年由计算机科学家Ian Goodfellow及其同事首次引入,从那之后,GAN变得越来越强大,现在已经可以以惊人的高分辨率生成高度逼真的图像。 不仅如此,这些程序还可以用于生成人们跳舞的视频,甚至是“将夏天的场景变成冬天的仙境”。不过也有令人苦恼的地方,就是这项技术也有随时被用于以“deepfakes”为核心的的假*情影片制作中。 Wang的网站在租用的服务器上运行,该服务器配有运行Nvidia软件的强大GPU,Wang透露道,每两秒钟生成一张随机的脸,随后以可扩展的方式展示给全世界,这其中没什么花哨。 REGIUM这次事件,不管真假,都足以再次让我们反思技术带来的双面性,的确,大规模的虚假复制将对于平台、个人都将造成不同程度的伤害。 显然,看似作为罪魁祸首的GAN技术,仍然是一种通用的东西,而真正将此滥用的,正是我们人。或许正是出于对现在以及未来GAN的逐渐“疯魔化”趋势,Wang曾表示,他想要在以后坚持真实的脸部图像,“人的脸对我们的认知最重要,因此我决定提出该特定的预训练模型”。 对此,你又是怎么看的? (责任编辑:admin) |