「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 [PConline杂谈]最近

[PConline杂谈]最近， AI换脸应用“ZAO”的出现，引起了轩然大波。 ZAO的最大卖点，就在于可以将视频中的人脸，通过AI算法“PS”换成另一个人的相貌。只需要把照片上传到ZAO当中，就能够将视频P成相应的脸，可谓是操作简单、效果明了。也因为如此， ZAO一出现就引来了人们的激烈讨论，毕竟谁也保不准自己会不会被P进小电影中，变成奇怪剧情的主人公。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

ZAO再次点燃了AI换脸技术的讨论热潮，而AI换脸引发争议，已经不是什么新鲜事。早在ZAO上架之前， DeepFakes就已经将AI换脸的恐怖之处刻入人心——甚至连世界最大的黄网PxxxHub ，也禁止AI换脸视频的上传（不过其实还是有就是了）。为何AI换脸会引起此等程度的惊恐？AI换脸的风行意味着什么？今天，我们就一起来谈谈相关话题吧。

　　AI换脸技术是如何走向泛滥的？

ZAO将AI换脸技术再次放置到了聚光灯下，但这并非是AI换脸首次走上历史舞台。早在2017年底，国外论坛就已经出现了ID为“deepfakes”的大神，发布了通过机器学习来更换视频人脸的AI算法。不过当时该技术的使用门槛还比较高，需要编译代码之类的操作；而在数个月后，使用管理DeepFakes技术的简易版AI换脸工具FakeApp出现了，就算是普通用户，也能够顺利操作了。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

AI换脸的算法已经公开，开源网站中存在大量基于DeepFakes的项目

FakeApp令AI换脸的使用门槛大幅下降，不过它还是需要一定的准备工作。首先它需要安装额外的运行库，其次它对硬件有需求，需要高性能显卡参与运算，其中对N卡的兼容最好。而FakeApp还需要较新版的Windows 10系统才可以安装，运行起来还得等待好一段时间——过程越久，效果越好，毕竟机器学习还是需要足够的时长和样本的。最后， FakeApp就可以生成几乎以假乱真的AI换脸视频了。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

FakeApp ，经过一段时间的机器学习即可换脸，是当前最流行的AI换脸工具

FakeApp的出现令AI换脸视频一度犹如黄河泛滥一发不可收拾，不少名人都深受其害。例如大名鼎鼎的“神奇女郎” ，就莫名其妙成为了色情片里的主演；又例如国内很多人都印象深刻的杨幂版小龙女，令人惊叹演员换脸的奇效。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

因AI换脸“出演”《射雕英雄传》的杨幂（图片来源网络）

AI换脸目前已经在网络上泛滥到怎样的一种程度呢？我们从几个细节就可以窥一斑。首先是AI换脸色情视频的广为流传，俗语云，色情是互联网的第一生产力， AI换脸技术的出现，令色情内容的制造者们迎来了狂欢，各大黄网一度遍布着明星名人脸庞换脸而来的色情片。尽管各大色情网站可能是出于法律风险方面的考虑，纷纷声明禁止该类换脸视频的上传，但止不住人多势众，时至今日人们仍可在这些网站上找到换脸的视频。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

无论是色情网站还是普通视频网站，都可以找到大量AI换脸视频

而除了色情网站外，网络的多个角落也蔓延着AI换脸视频。例如在国内的视频站，只要用“AI换脸”为关键词搜索，轻松就能找到大量使用DeepFakes技术生成的视频。而如果你想要制造AI换脸视频，你并不需要钻研代码，甚至不需要安装FakeApp——在淘宝上，就有很多商家提供AI换脸视频制作服务，只需要几块钱十几块钱，就能够定制一部换脸视频。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

淘宝上就能够购买到AI换脸服务

简而言之， DeepFakes技术的出现为AI换脸视频的流行打下了基础，而FakeApp的诞生则让AI换脸视频成为了真正意义上的爆款。而现在， ZAO的出现，极有可能将AI换脸视频的风行推到一个新的高度。

和前辈们相比， ZAO的门槛进一步降低。首先， ZAO不需要复杂的配置，使用手机APP即可开始制作；其次，它对硬件没有特别大的需求， ZAO将视频制作的运算放到了服务器上，用户不需要准备高性能的硬件；最后，它的生成速度飞快，视频上传后很快就得出结果。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

ZAO让AI换脸变得前所未有的方便

在ZAO当中， AI换脸视频即点即成，制作已然不存在门槛。也正因如此，在AI换脸视频已经泛滥的现状下， ZAO的降临意味着对这股潮流进一步推波助澜，令人平添了几份恐慌。

　　AI换脸技术会带来怎样的问题？

抛开风险来说， AI换脸视频还是非常有趣的。例如用在电影上，就等于换了个演员，想要体验颜值高但演技不在线的演员真正会演戏的样子，可能还真得靠这一技术；又例如把自己或者朋友熟人的脸换到某个视频上，在私密间分享，也不失为一种有趣的玩笑——这可比P表情包欢乐多了。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

AI换脸用对地方会有奇效，例如《速度与激情7》中已逝演员保罗沃克的脸就利用了类似技术嫁接上去

然而这一切，都是忽视风险后的论调，而真正凭心而论的话，制作AI换脸视频是没办法不考虑风险的。

首先这对于信息的真实性形成严峻的挑战。 PS发明后，有图不再有真相；而AI视频换脸技术的出现，则让视频也开始变得镜花水月了起来——人们普遍认为视频可以担当“实锤” ，而现在这把实锤竟可凭空制造，对于本来就假消息满天飞的互联网来说，这无疑会造成进一步的信任崩坏。

其次，这会大大增加侵犯肖像权的可能。正如文章一开头所说，没人愿意自己的脸庞出现在莫名其妙的视频当中。和多用途的PS等修图软件不同， AI换脸技术的功能只有一个，那就是换脸，从这个角度来说它的存在天然就是一种对肖像权的威胁。而PxxxHub等网站之所以对AI换脸视频如临大敌，肖像权风险就是一大原因。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

出于对肖像权的保护，连色情网站的搜索功能也屏蔽了DeepFakes

再者， ZAO这样的工具还徒增了信息安全的相关隐患。这主要涉及两方面。一是ZAO这样的在线处理机制，流程上必须上传相应肖像，甚至还要填写详细的实名制信息，而服务商是否能妥善保管相关方面信息仍是个未知数——使用ZAO只是为了娱乐，付出这样的风险代价似乎有点得不偿失；二是类似技术生成的伪视频，是否会成为一把破解人脸识别大门的钥匙？尽管现在生成的视频有一定局限性，但从机理上来看，假视频的确比假照片更具这方面的可能。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

换言之， AI换脸技术或许真的玩着有趣，然而真正的问题在于，这样风险百出的技术我们到底玩不玩得起？这恐怕非常值得大家深思。

　　AI换脸技术可能仅仅只是个开始？

由于上述提到的风险， AI换脸技术已经在相当程度上引起恐慌。也难怪，当得知该技术能够接近完美捏造假视频的时候，担心自己的言行是否会被虚构，是很正常的自然反应。然而，在警惕AI换脸技术的同时，我们或许还需要意识到， AI技术仍在不断发展，目前的AI换脸视频或许远非终点。

当前的AI换脸技术已经达到了惊人的水准，但目前大多数的AI换脸仍只涉及视觉。然而事情正在发生变化——AI换脸已经成为了现实，而AI变声也开始崭露头角。谷歌之前曾经研究过AI变声的相应技术，但并没有大规模实装；而国内厂商则更加激进，不少研究输入法的厂商都已经尝试在产品当中推广AI变声功能。在一些国产输入法当中，现在就可以找到AI变声的开关，输入一段语音后，等待片刻即可生成特定音调音色的语音，拟真度相当出色。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

某些输入法已经推出AI变声功能

当然，此类产品限定了AI变声的模版，但声音的自由变换修改相对于我们来说也并不是那么遥远。例如“Modulate.ai”这个网站，就提供了AI变声服务，甚至连奥巴马的声音都能完美模仿。

Modulate.ai所使用的变声技术和DeepFakes类似，都使用了神经网络机器学习算法来训练模型，所拟真出来的声音真假难辨。另外还有“Lyrebird.ai”这个网站，也提供了类似的服务，而且所提供的模仿对象更加丰富，据悉多达上千种，包括特朗普、奥巴马、克林顿等名人的声音都可以被模仿。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

在线即可完成AI变声

可见， AI变声技术已经逐渐成熟，它和AI换脸技术结合后，会形成威力无穷的组合拳。在之前，就有人结合AI换脸、AI变声，伪造一段虚假的奥巴马演讲视频。视频当中，奥巴马指斥特朗普是个“笨蛋” ，令人震惊。这段视频在国外引起了轰动，如果没有特别标注，恐怕很多人会信以为真。

----「太平洋电脑网」AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖 //----[ http://www.caoding.cn]

完全伪造的奥巴马演讲视频，无论是脸还是声音都是假的，但却能以假乱真

而这仍不是AI换脸的终点。目前的AI换脸、变声仍需要一段时间的运算，难以和真人互动。而当AI换脸、变声可以实时生效时，恐怕连视频电话的真伪都难以分辨，而人脸识别也将面临着严峻挑战。到了这步， AI换脸、变声技术极可能成为犯罪分子的诈骗、勒索利器。

通过大数据和机器学习， AI将特定信息解构后，重构成为难以分辨的虚假信息，当相应的技术成熟后，虚假信息可以源源不断地生成，如此高质量的虚假信息能够大批量生产，在历史上可谓是前所未有。

然而尽管人们对此感到恐慌，但相应的应用、开发却并没有停下脚步。 ZAO自不必说，直接把这样高风险的技术做成了娱乐APP ，令人们前所未有近距离接触到了AI构建的虚假视频；而行业中的巨头也视此为机遇，苹果、谷歌、微软、Facebook等大佬都爆出过利用用户数据训练语音、语言模型的新闻，而近年也可以看到AI自动应答的逻辑性、自动生成语音的拟真度大幅上涨——用AI构建一个完全虚拟的人格，似乎也为期不远。

<ｉｆｒａｍｅ allowfullscreen="true" frameborder="0" height="100%" src="http://v.qq.com/txp/iframe/player.html?vid=m06481933a2" width="100%">

得益于大数据和AI算法， Google Assistant的智能程度大大提升，甚至可以对答如流

在未来，我们或许不仅可以看到逼真的AI换脸、AI变声，甚至可能连应答都由AI来完成。当AI能自动生成以假乱真的面容、声音乃至语言的时候，互联网乃至整个社会该如何应对这种身份信息的混乱？现在仍没有一个好的应对方案。

　　后话

就在发文之际，笔者的担心成真了。《华尔街日报》的最新报道显示，今年3月份，有犯罪分子使用AI技术成功模仿了英国某能源公司在德国母公司CEO的声音，诈骗了220,000欧元（约1,730,806人民币）。仅仅依靠AI变声就能酿造出一宗如此重大的诈骗案， AI骗术的威力可见一斑。

目前AI换脸多用于娱乐，然而我们应该知悉，这是一项连黄网都不敢碰的技术，是一项能极大程度混淆身份信息、甚至可能令社会信用体系走向崩溃的技术。当诈骗短信进化为AI假视频、还能够自动应答的时候，我们是否还有方法防范？对于AI拟真技术的运用，人们应该更加谨慎，这不是一项可以随便曝光于公众视野的技术。 AI换脸，你真的玩得起吗？