面部交流（face-swapping）革命在九年前就开始了。
当时，我在埃德·乌尔布里奇（Ed Ulbrich）的放映室里，他热衷于研究那种在《本杰明·巴顿奇事》（The Curious Case of Benjamin Button）电影中改变布拉德·皮特（Brad Pitt）面部的技能。
乌尔布里奇欢迎我来到他的视觉殊效事情室——数字领域（Digital Domain）去预览一些乃至可能超过本杰明·巴顿技能魔力的东西。
他把灯光变暗，他最新作品《创战纪》（Tron Legacy）的开场白开始播放。
不久之后，我面前就涌现了一个经由数字化重修的杰夫·布里吉斯（Jeff Bridges），不过他不是60多岁，而是30多岁。
对付乌尔布里奇来说，面部交流是殊效领域的圣杯——我们见证了它的实现。

“这真的很难、很慢、很乏味、本钱也非常高，”乌尔布里奇当时说。
“下一次我们这样做时，就不会那么困难，也不会那么慢，本钱也不会那么高了。
”后来，数字领域打造了说唱歌手图派克（Tupac）的全息形像。
之后在2012年宣告破产。
但这家公司留下了自己的痕迹：数字面部交流已经成为好莱坞的主流工具，比如《闭幕者：创世纪》中的施瓦·辛格以及《星球大战7：原力觉醒》中的凯丽·费雪都利用了这个技能。

然而，想要做出令人惊叹的效果仍旧相称困难和昂贵——直到一个名为Deepfakes的匿名Redditor在一夜之间改变了所有这统统。
在2018年初，Deepfakes向"大众年夜众发布了一段独特的代码，许可任何人可以轻松和令人信服地将一张面孔映射到其他人的脸上。
然后，另一个Redditor快速创建了FakeApp，为Deepfakes脚本供应了一个用户友好的前端。

这位匿名的Redditor首次公开技能的时候，发布了一系列将著名女演员的脸换到色情片的女演员上的***。
其他的Redditors迅速效仿了这一做法。
虽然用户仍旧须要网络数百乃至数千张人物的面部照片才能利用Deepfakes AI，但是所有演习这台机器的艰巨而合乎逻辑的事情都是自动化的。
溘然之间，全体互联网都可以利用这一种技能了，使他们能够将任何人——熟人、未成年人、仇敌——的面部嵌入到色情***中。
很随意马虎想象接下来会发生什么。

法律在这个事宜面前，险些没有帮助。
因此，为了减少传播的趋势，Reddit和Pornhub迅速禁止Deepfakes的内容，将其定性为一种类似于复仇色情的内容。
目前，Deepfakes已经被封禁。
但对像乌尔布里奇这样看着这种技能出身的人而言，革命是不可阻挡的。

“色情可能是个中最不具攻击性的一部分，”乌尔布里奇现在见告我。
“一个像素接一个像素，它引发了一场关于真实的战役。
”

“这可能被认为是一种恋物癖，”名称为Deepfakes的用户通过Reddit给我写道。
“有些人喜好脚，有些人喜好大胸，有些人喜好色情片中涌现熟习而有吸引力的面孔。
这也可以阐明为什么我痴迷于天生真实的面部图像。
“

Deepfakes不会见告我他们的姓名，年事或职业，但是他很乐意评论辩论他的崇奉，以及是什么让他们向大众公开他们的代码。
在过去的12年里，Deepfakes一贯沉迷于面部测绘技能，这项技能最早起自于2006年发布的电子游戏《上古卷轴4：遗忘》，这款游戏许可玩家利用各种滑块和选项定制他们的虚拟角色的面部，也便是现在玩家所称的“捏脸”。

这让Deepfakes掉进了一个“兔子洞”。
一贯到1999年，一篇经典的论文《一个用于合成3D面部的变形模型》给《上古卷轴4：遗忘》带来了启示。
这篇论文供应了一项技能，能够利用一个单一的2D图像来创建一个3D的面部。
“虽然大多数时候这个模型非常糟糕，看起来就像是你把某人的脸贴在马铃薯上一样，”Deepfakes说。
2009年，一篇题为《在Wild中的面部重修》的论文供应了更好地见地——如果有足够多的各种角度的2D图像，你可以创造一个完全的、连续的3D面部模型。
“我断断续续地试验了一段韶光这个方法, 但没有任何用途，”Deepfakes说。

末了，2016年，自动化机器学习系统的飞速增长——能够自我改进——Deepfakes将之前所有的技能成为“类固醇”。

“我进行了一些考试测验，创造我可以用足够的演习数据轻松地天生同一个人的非常真实的面孔。
接下来的问题是，‘我该当如何处理这些天生的面孔？’”Deepfakes说道。
“我仍旧无法可靠地从随机图像中重修出来高质量的3D人脸模型——我已经靠近了，但尚未完成。
但是，我可以考试测验交流两个面孔......“经由大约一年半的努力，Deepfakes创建了他们的面部交流神经网络，通过色情片来证明这个观点，并将代码开源向全天下发布。

关于为什么要去开源，Deepfakes有自己的考虑。
“其一，这个算法非常非常随意马虎理解，我找不出有什么情由去隐蔽它。
其他人迟早会找到类似的办理方案，“他说。
“其二，最好让公众年夜众知道这些算法的存在，让人们知道现在这些算法是如何事情的。
对我们来说，隐蔽这些信息是不道德的。
”

Deepfakes的技能基于相对范例的天生对抗网络（Generative Adversarial Network，以下简称GAN）技能，基本上每个人工智能研究职员都利用这种技能。
不要把GAN看作是一个人工智能，而是两个，每个人都渴望成为老师的宠儿。
一个称为天生器的人工智能来绘制面部，而另一个称为鉴别器的人工智能，则通过考试测验识别虚假内容来批评它们。
重复这个过程数百万次，在一场只要你的电脑插上电源就可以进行的战斗中，两个人工智能都会不断地改进这一过程。
在一台低真个电脑上打算半天韶光后，Deepfakes的结果是相称令人信服的。

类似的神经网络已经产生了许多极好的，能改进人类的影响。
可以在皮肤癌早期的时候就创造病情，做出诊断，或者帮助创造新的药物，来治疗本日棘手的疾病。
此外，亚马逊的Alexa和Google Home的语音识别溘然变得如此强大也可归功于GAN。

但从根本上说，当一台机器演习另一台机器来创建与真实物体无法区分的内容时，就会涌现问题。
它创造的内容通过设计可以通过最高的专业审查的测试。

实际上，Deepfakes利用的成像工具已经被天下上一些大型的软件公司所研究出来的。
就比如Adobe，十多年前就已经利用人工智能来处理图像了。

“你用来区分现实与虚构的技能能力越强，虚构出来的东西就越逼真，”Adobe研究所媒体智能实验室主任乔恩·布兰德（Jon Brandt）阐明说，他是Adobe公司在15年前聘任的第一名人工智能研究职员。

在Adobe，布兰德的事情不是创造未来的产品，而是勾引并折衷它们注入新的工具中。
十多年来，Adobe已经对人工智能进行了许多改进。
2004年，它推出了第一个基于人工智能的功能——自动红眼肃清。
现在，Adobe的人工智能已经利用到了从裁剪到图像搜索，再到口型同步等几十个功能中。

大多数情形下，这些都是在Adobe的创意工具的日常更新，然后逐渐在运用程序中形成了特定的功能。
对付我关心的问题——作为图像处理领域最大、利润最丰硕的公司，Adobe一手打造了能够扭曲现实的Photoshop软件——布兰德并没有闪烁其词，拐弯抹角。

“Sensei是房间里的大象，”他说。
“它不是一个产品，而是一套技能，承载着将人工智能和机器学习利用到业务中的义务。
”由于机器学习以及Adobe每年夏天招募的一小批研究演习生，Adobe可以模拟你的声音，让你说出你从未说过的话。
它可以自动缝合虚构的背景。
它可以使一张照片拥有与另一张照片相同的风格。
它可以让你轻松地从***中移除巨大的工具，就像在桌面上拖放文件一样随意马虎。

很显然，这些研究实验尚未利用到Adobe的产品中，但研究它们并不是为了让怀有恶意的人用来虚构内容，而是为了让工具变得更加随意马虎利用。
使得人们不须要有多年的专业知识，或者是一直地磨练自己的技能。
在人工智能的帮助下，学徒可以成为大师。
在Adobe的操持中，在不久的将来，图像处理就像你打电话一样大略。

“我们的义务之一便是让我们的工具变得大略, 让创意职员能够尽快地表达出自己的想法，”布兰德说。
“这就须要我们对他们的事情背景和内容有更多的理解，这须要一种机器学习方法。
”

当我问布兰德是否看到过Deepfakes时，他说他已经看到了，他并不感到惊异。
毕竟，基于Deepfakes的***不是由神经网络技能产生的第一个或唯一恐怖的虚假内容形式。
这让我想到了那段关于巴拉克·奥巴马(Barack Obama)演讲的令人不寒而栗的***。

正如布兰德所指出的那样，由于研究团体乐于公开和大规模地分享他们的技能，这种能力的迅速遍及是不可避免的。

“我们可以尽最大努力来推动负任务地利用这些工具，并且在这些工具被用于造孽或恶意目的时支持司法，” 他表示。
“但是有些人会滥用它，这很不幸。
我们可以从工具的角度来做一些事情来限定这种情形，但归根结底，你不能完备杜绝人们做一些不好的事情。
”

无论是匿名的Redditors，还是像Adobe这样的大公司，或者说是学术界，在通过各种前辈技能处理音频和***内容方面，都取得了很大的进展，但是没有哪一方说要踩刹车。
那么，我们该当如何看待逐步消逝的现实呢？现在，我们还不知道该怎么办。

那么，Deepfakes有没有以为将名人被放在色情***中是一件很糟糕的事情？Deepfakes是否担心有人可以利用他们的机器学习技能来制作关于未成年人或高中同学的色情作品？当我向Deepfakes讯问他们自己的道德准则时，他们认为自己并没有侵害任何人。

“我认为，私下制造虚假内容是可以的，对未成年人也是如此。
创造这些虚假内容并不会侵害任何人，“Deepfakes说。
“当然，分享这些虚假的内容又是另一回事了。
我并不认为向普通人分享虚假的色情内容是可以接管的。
对付名人来说，这些虚假内容对他们的形象有多大影响是值得商榷的。
如果我们创造出一个现实中不存在的人呢？例如一个即像娜塔莉·波特曼（Natalie Portman）又像凯拉·奈特莉（Keira Knightley）的人，但并不是她们中的一个。
这里的可能性是无穷无尽的，我没有答案。
“

但Deepfakes承认，他们在创作***时并没有考虑到这些道德问题，由于对付Deepfakes而言，这些***本来便是假的。
“我更担心人们可能会被其他人的算法所迷惑，”Deepfakes说。
“大概一些虚假的***已经涌现了，而我们并不知道。
”

大概这听起来像是甩锅——就像爱因斯坦训斥曼哈顿操持一样：早晚会有人制造出来原子弹，我更担心有人会建造一个更大、更具毁坏性的东西！
同样，一个更好版本的Deepfakes技能对一些人来说可能会更危险。

“在《本杰明·巴顿奇事》上映后，就有政府的人来找我了，问‘这是否可以用来作歹，’”乌尔布里奇回顾说。
“我们收到的一个哀求是让罗纳德·里根（Ronald Reagan）涌如今共和党全国委员会(RNC)，我们接管了。
”乌尔布里奇给自己定下了非常清晰且强大的道德准线，他可以逼迫实行，由于他是少数几个在中途节制这项技能的关键人物之一。

“'你可以让奥巴马说点其他的东西吗？'”他假设一个假设客户会提出这样的要求，“是的，我们可以做到，但我们不会做。
”

对付乌尔布里奇来说，Deepfakes技能看起来并不像多年前的本杰明·巴顿那么好。
但这并不主要，其仍旧足以在社交媒体上像病毒一样传播开来。
同样主要的是，任何人都可以利用Deepfakes的代码，不须要高等的技能或数百万美元的好莱坞预算。
正如乌尔布里奇九年前所说的那样，它只会变得更好，更便宜，更快。

“对我来说，这是件大事儿。
我认为这会改变统统，“乌尔布里奇说。
“你真的不能相信你的眼睛，你不能相信你的耳朵......它颠覆了媒体。
“

监管机构可以关闭这统统，并认为Deepfakes***是非法的。
但这很棘手。
在当代法律条款中，这可以被认定为是一种辞吐自由。
要知道，现在还有一些真正的艺术作品中利用到了Deepfakes技能。

进一步说，当假造技能本身如此广泛地传播开来，并越来越难以回嘴时，合法性就基本上不再是一个有实际意义的问题了。
如果天下上每个人手里都有一个关于“假***的核弹按钮”，那么法律不能阻挡爆炸。
它只能试图惩罚那些该当负任务的人。

在这方面，乌尔布里奇和Deepfakes实际上是完备同等的。
“我们正处于任何人都可以制作可信***的时期，任何人都可以声称***是假造的，”Deepfakes说。
“我认为这是不可避免的，社会必须适应这种变革。
但这个过程可能是痛楚的。
”