一键“脱衣”遭下架！吴恩达“DeepNude死了，我很高兴”
技术本身没有恶意，都是人在作恶。根据科技网站 The Verge 的报道，推特用户 @deepnudeapp 最近开发出一款名叫 DeepNude 的应用，官方称为 “AI X光”。只要给 DeepNude 一张女性照片，借助 DeepFake 神经网络技术，图片就可以自动“脱掉”女性身上的衣服，令身体暴露。该应用适配在 Windows 和 Linux 系统中，标准版免费，高级版售价为 99 美元。但由于应用产生的效果过于低俗，目前，官方已经宣布关闭 DeepNude App 以及网站。
该应用开发者在声明中承认这款应用并不是很完善，只适用于特定的照片。他们从没想过它会像病毒一样传播开来，以至于无法控制，“大大低估了”用户对这个应用的需求。
他表示，尽管采用了安全措施（加水印），但已经有 50 万人在使用它，“人们滥用它的可能性太高了”。该应用开发者声称，不想让假图片的副本在网上被分享，也不想利用这些 “作品” 来赚钱。另外从现在开始，DeepNude 将不会发布其他版本，也不会授权任何人使用，激活高级版本许可也将停止。
据悉，这款应用在国外网站非常火爆，对于使用者来说，无需任何技术门槛，就可拿这款应用生成女性裸露图片，加以编辑成色情影片，将其传播开来。虽然图片有水印，显示为虚假合成，但很多用户“信以为真”。
逼真效果的 DeepNude
据悉，此消息最初由 VICE 旗下的 Motherboard 网站曝出，他们使用了一张穿着衣服的人（动物）照片，打开 DeepNude，通过一些选项，几秒钟就会出现一张同一人的裸体图像。之后，他们不断测试了几十张的图片，并在 Sports Illustrated Swimsuit 杂志中取得高分辨率的配图，虽然技术形成的是假象，但实际效果来看却是十分逼真。
图｜当用技术处理卡通角色杰西卡兔子的图像时，生成的图像极为扭曲，甚至有点可怕（来源：Motherboard）
VICE 表示，他们在发表此消息时，收到了一封自称为 DeepNude 开发者的邮件，其使用的名字为 Alberto。邮件中，Alberto 表示，该软件基于 pix2pix，这是一种开源算法，使用其可以创建生成式对抗网络（GAN），而这一算法与之前人工智能换脸技术 DeepFake 算法相似，也和自动驾驶无人车用于“想象”道路场景的算法极其相似。
而在应用下架之后，一篇名为 “研究 DeepNude 使用的图像生成和图像修复相关技术” 文章，得到了很多 Github 用户的关注，这篇文章的作者是来自四川大学计算机学院的在读硕士袁宵。他表示，DeepNude 软件主要使用了三种深度计算机视觉技术，第一个是 NVIDIA Guilin Liu 团队在 2018 年发表的论文“Image Inpainting for Irregular Holes Using Partial Convolutions”中提出的 Image-to-Image（图像到图像）技术，通过模糊的图像画面，不断分析和训练之后，仍然能够恢复出原有的图像。
另外，DeepNude 开发者所提到的基于 Pix2Pix 技术，这是由加州大学伯克利分校的研究人员于 2017 年所提出的，袁宵表示，该技术可以将黑白色的简易图转换为彩色图，并且能够补全简笔画等等，比如上图当中猫的简易画，通过深度学习与算法训练，自动生成猫色物体，带有梦魇般的面孔，逼近猫体的图像。
当图像修复、补全边缘部分之后，DeepNude 最后用上了 CycleGAN 技术，这是由前 MIT CSAIL 博士后研究员朱俊彦的博士论文所提出的，该技术能够让照片质量增强，图像自动着色等。
虽然这是 DeepNude 软件的算法成果，但袁宵毕竟不是开发者，这只是他的推测与研究。而更多的网友表示，DeepNude 软件使用的算法与 DeepFake 太过于相似。
之前我们曾多次报道 DeepFake 算法，这是一种基于深度学习的伪造技术，适用于修改图片和影像，可以实现人脸的移花接木。这种技术让美国从国会议员到普通程序员，受到了诸多影响。
6 月初，一份有关马克·扎克伯格的假视频在国外社交媒体 Instagram 和 Facebook 上广为流传。通过技术手段，视频中的“扎克伯格”说出了现实中他从未说过的话，移花接木的效果可以乱真。
而 Alberto 在邮件中对 VICE 称，他大约在两年前开始开发 DeepNude 。当时他发现了人工智能的潜力，并开始学习其基础知识。而这款应用的灵感来源于杂志上的 X 射线等广告图片。
他表示，DeepNude 是对这些广告致敬，并没有恶搞的想法。他说他是一名“技术爱好者”，而不是偷窥者，并且受到人工智能的好奇心和热情的激励，想要从这个实验中获得“经济回报”。Alberto 在邮件中表示，该算法仅适用于女性，因为裸体女性的图像更容易在网上找到，但他仍希望创建一个男性版本。
不管出于恶搞精神也好，猎奇心态也罢，他无疑是滥用了 AI 技术，对相关当事人造成了伤害。由于美国并未有严格的法律法规来完全约束其行为，导致受害者维权无门。
此前，饱受 DeepFake 之害的“黑寡妇”斯嘉丽就曾在公开场合表达过，对于 AI 技术滥用影响到其生活的愤怒和无奈。
虽然目前该应用已经被停止使用，但是 DeepNude 这样的应用程序，仍然会持续被其他技术人员开发，并对外推出。在未来几年内，随着技术的不断进步，效果应该会更逼真，处理时间也更快，这是不可阻挡的趋势。如何利用好技术这把双刃剑，成为了不得不考虑的一项重要因素。
DeepTech 深科技曾采访 MIT 人工智能实验室主任 Daniela Rus，她认为人类需要谨慎、仔细地看待 AI 技术。技术是中立的，最终的结果取决于控制技术的人。若数据与算力存在很大的偏差，可能会造成难以想象的惨烈后果。
Daniela Rus 对 DeepTech 表示，虽然 AI 有诸多优势，但是要警惕人类“抄近道”，该弄的东西没有弄，欺骗技术与系统，造成很大的困扰。
技术是一把双刃剑
实际上，能够制造假图片和假视频的 AI 技术不仅仅只有 DeepFake，相关技术在过去五年里层出不穷。这都要归功于另一项大名鼎鼎的深度学习技术：生成式对抗网络（GAN）。
这是一种让两个神经网络“左右互搏”的技术，其中一个网络负责生成物体，一个网络负责判别物体，两者通过不断对抗来创造非常真实的虚构图像、声音或视频。
自 2014 年 Ian Goodfellow 发明 GAN 以来，世界范围内的很多深度学习团队和企业都开始在上面添砖加瓦，各种 GAN 框架漫天飞舞。
在 DeepFake 出现之前，就已经有了基于 GAN 的 Face2Face 技术和 CycleGAN 模型。前者可以通过摄像头捕捉人的脸部动作，然后实时转移到现有视频中的另一张人脸上，后者则可以改变图片和视频中物体或场景的样貌，实现面部识别转换。
图 | Face2Face 模拟特朗普说话（来源：Face2Face）
类似的技术还有很多。比如英伟达的 StyleGAN，可以自动生成惟妙惟肖的图片，适用于人脸、汽车、风景和动物等。对于人脸来说，StyleGAN 用来混合的特征包括性别、肤色、脸型、姿势、表情、胡须、是否戴眼镜、头发长度和颜色等等。它虽然不是一个完美的模型，生成的图片经常出现瑕疵，但总体上效果出众。
随着技术的发展与进步，DeepNude 这款 App 比 DeepFake 简单易用，更容易吸引用户上手。
但是，我们要深入思考，这项技术带来的效果，却是负面的，甚至可以说是畸形的。
数据与社会研究所的研究员 Mutale Nkonde 表示：“DeepNude 应用程序证明了我们对技术工具影响女性方式有着很大的担忧。”
加州大学伯克利分校的计算机科学教授 Hany Farid 表示：“我们必须更好地检查深度识别技术，如何更好地保护技术进步，以便他们不会通过有害的方式加以使用”。
另外，百度前首席科学家吴恩达也在推特上批评了这款应用，他认为这是人工智能最令人作呕的应用之一，“DeepNude 死了，我很高兴”。
当大众认为技术正在快速影响人们生活的时候，要深刻意识到，技术带来的，不仅仅是正向的回馈，还有负面的效应，这把双刃剑，如何利用，正在成为全人类最严峻的课题与挑战。
特别声明
本文为自媒体、作者等在百度知道日报上传并发布，仅代表作者观点，不代表百度知道日报的观点或立场，知道日报仅提供信息发布平台。合作及供稿请联系zdribao@baidu.com。 这种情况国外还是太猖狂了 真牛 看你怎么用 技术是双刃剑，就看你怎么用。 小编自己都玩完了 才开始给我们说下架了 死得其所。 那肯定啊，如果把别人的裸照发到网上，那对人家的自尊心就是一种亵渎，是不尊重他人的表现，所以从人性的角度看，下架了也是好事！ 啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊我
页:
[1]