|
|
技术本身没有恶意，都是人在作恶。
根据科技网站 The Verge 的报道，推特用户 @deepnudeapp 最近开发出一款名叫 DeepNude 的应用，官方称为 “AI X光”。只要给 DeepNude 一张女性照片，借助 DeepFake 神经网络技术，图片就可以自动“脱掉”女性身上的衣服，令身体暴露。该应用适配在 Windows 和 Linux 系统中，标准版免费，高级版售价为 99 美元。但由于应用产生的效果过于低俗，目前，官方已经宣布关闭 DeepNude App 以及网站。
该应用开发者在声明中承认这款应用并不是很完善，只适用于特定的照片。他们从没想过它会像病毒一样传播开来，以至于无法控制，“大大低估了”用户对这个应用的需求。
他表示，尽管采用了安全措施（加水印），但已经有 50 万人在使用它，“人们滥用它的可能性太高了”。该应用开发者声称，不想让假图片的副本在网上被分享，也不想利用这些 “作品” 来赚钱。另外从现在开始，DeepNude 将不会发布其他版本，也不会授权任何人使用，激活高级版本许可也将停止。
据悉，这款应用在国外网站非常火爆，对于使用者来说，无需任何技术门槛，就可拿这款应用生成女性裸露图片，加以编辑成色情影片，将其传播开来。虽然图片有水印，显示为虚假合成，但很多用户“信以为真”。
逼真效果的 DeepNude
据悉，此消息最初由 VICE 旗下的 Motherboard 网站曝出，他们使用了一张穿着衣服的人（动物）照片，打开 DeepNude，通过一些选项，几秒钟就会出现一张同一人的裸体图像。之后，他们不断测试了几十张的图片，并在 Sports Illustrated Swimsuit 杂志中取得高分辨率的配图，虽然技术形成的是假象，但实际效果来看却是十分逼真。
图｜当用技术处理卡通角色杰西卡兔子的图像时，生成的图像极为扭曲，甚至有点可怕（来源：Motherboard）
VICE 表示，他们在发表此消息时，收到了一封自称为 DeepNude 开发者的邮件，其使用的名字为 Alberto。邮件中，Alberto 表示，该软件基于 pix2pix，这是一种开源算法，使用其可以创建生成式对抗网络（GAN），而这一算法与之前人工智能换脸技术 DeepFake 算法相似，也和自动驾驶无人车用于“想象”道路场景的算法极其相似。
而在应用下架之后，一篇名为 “研究 DeepNude 使用的图像生成和图像修复相关技术” 文章，得到了很多 Github 用户的关注，这篇文章的作者是来自四川大学计算机学院的在读硕士袁宵。他表示，DeepNude 软件主要使用了三种深度计算机视觉技术，第一个是 NVIDIA Guilin Liu 团队在 2018 年发表的论文“Image Inpainting for Irregular Holes Using Partial Convolutions”中提出的 Image-to-Image（图像到图像）技术，通过模糊的图像画面，不断分析和训练之后，仍然能够恢复出原有的图像。
另外，DeepNude 开发者所提到的基于 Pix2Pix 技术，这是由加州大学伯克利分校的研究人员于 2017 年所提出的，袁宵表示，该技术可以将黑白色的简易图转换为彩色图，并且能够补全简笔画等等，比如上图当中猫的简易画，通过深度学习与算法训练，自动生成猫色物体，带有梦魇般的面孔，逼近猫体的图像。
当图像修复、补全边缘部分之后，DeepNude 最后用上了 CycleGAN 技术，这是由前 MIT CSAIL 博士后研究员朱俊彦的博士论文所提出的，该技术能够让照片质量增强，图像自动着色等。
虽然这是 DeepNude 软件的算法成果，但袁宵毕竟不是开发者，这只是他的推测与研究。而更多的网友表示，DeepNude 软件使用的算法与 DeepFake 太过于相似。
之前我们曾多次报道 DeepFake 算法，这是一种基于深度学习的伪造技术，适用于修改图片和影像，可以实现人脸的移花接木。这种技术让美国从国会议员到普通程序员，受到了诸多影响。
6 月初，一份有关马克·扎克伯格的假视频在国外社交媒体 Instagram 和 Facebook 上广为流传。通过技术手段，视频中的“扎克伯格”说出了现实中他从未说过的话，移花接木的效果可以乱真。
而 Alberto 在邮件中对 VICE 称，他大约在两年前开始开发 DeepNude 。当时他发现了人工智能的潜力，并开始学习其基础知识。而这款应用的灵感来源于杂志上的 X 射线等广告图片。
他表示，DeepNude 是对这些广告致敬，并没有恶搞的想法。他说他是一名“技术爱好者”，而不是偷窥者，并且受到人工智能的好奇心和热情的激励，想要从这个实验中获得“经济回报”。Alberto 在邮件中表示，该算法仅适用于女性，因为裸体女性的图像更容易在网上找到，但他仍希望创建一个男性版本。
不管出于恶搞精神也好，猎奇心态也罢，他无疑是滥用了 AI 技术，对相关当事人造成了伤害。由于美国并未有严格的法律法规来完全约束其行为，导致受害者维权无门。
此前，饱受 DeepFake 之害的“黑寡妇”斯嘉丽就曾在公开场合表达过，对于 AI 技术滥用影响到其生活的愤怒和无奈。
虽然目前该应用已经被停止使用，但是 DeepNude 这样的应用程序，仍然会持续被其他技术人员开发，并对外推出。在未来几年内，随着技术的不断进步，效果应该会更逼真，处理时间也更快，这是不可阻挡的趋势。如何利用好技术这把双刃剑，成为了不得不考虑的一项重要因素。
DeepTech 深科技曾采访 MIT 人工智能实验室主任 Daniela Rus，她认为人类需要谨慎、仔细地看待 AI 技术。技术是中立的，最终的结果取决于控制技术的人。若数据与算力存在很大的偏差，可能会造成难以想象的惨烈后果。
Daniela Rus 对 DeepTech 表示，虽然 AI 有诸多优势，但是要警惕人类“抄近道”，该弄的东西没有弄，欺骗技术与系统，造成很大的困扰。
技术是一把双刃剑
实际上，能够制造假图片和假视频的 AI 技术不仅仅只有 DeepFake，相关技术在过去五年里层出不穷。这都要归功于另一项大名鼎鼎的深度学习技术：生成式对抗网络（GAN）。
这是一种让两个神经网络“左右互搏”的技术，其中一个网络负责生成物体，一个网络负责判别物体，两者通过不断对抗来创造非常真实的虚构图像、声音或视频。
自 2014 年 Ian Goodfellow 发明 GAN 以来，世界范围内的很多深度学习团队和企业都开始在上面添砖加瓦，各种 GAN 框架漫天飞舞。
在 DeepFake 出现之前，就已经有了基于 GAN 的 Face2Face 技术和 CycleGAN 模型。前者可以通过摄像头捕捉人的脸部动作，然后实时转移到现有视频中的另一张人脸上，后者则可以改变图片和视频中物体或场景的样貌，实现面部识别转换。
图 | Face2Face 模拟特朗普说话（来源：Face2Face）
类似的技术还有很多。比如英伟达的 StyleGAN，可以自动生成惟妙惟肖的图片，适用于人脸、汽车、风景和动物等。对于人脸来说，StyleGAN 用来混合的特征包括性别、肤色、脸型、姿势、表情、胡须、是否戴眼镜、头发长度和颜色等等。它虽然不是一个完美的模型，生成的图片经常出现瑕疵，但总体上效果出众。
随着技术的发展与进步，DeepNude 这款 App 比 DeepFake 简单易用，更容易吸引用户上手。
但是，我们要深入思考，这项技术带来的效果，却是负面的，甚至可以说是畸形的。
数据与社会研究所的研究员 Mutale Nkonde 表示：“DeepNude 应用程序证明了我们对技术工具影响女性方式有着很大的担忧。”
加州大学伯克利分校的计算机科学教授 Hany Farid 表示：“我们必须更好地检查深度识别技术，如何更好地保护技术进步，以便他们不会通过有害的方式加以使用”。
另外，百度前首席科学家吴恩达也在推特上批评了这款应用，他认为这是人工智能最令人作呕的应用之一，“DeepNude 死了，我很高兴”。
当大众认为技术正在快速影响人们生活的时候，要深刻意识到，技术带来的，不仅仅是正向的回馈，还有负面的效应，这把双刃剑，如何利用，正在成为全人类最严峻的课题与挑战。
特别声明
本文为自媒体、作者等在百度知道日报上传并发布，仅代表作者观点，不代表百度知道日报的观点或立场，知道日报仅提供信息发布平台。合作及供稿请联系zdribao@baidu.com。 |
|
发表于 2021-2-17 21:18:01
