「扬子晚报」“AI换脸”视频不能随便玩了！上传自己的“脸”,就能把诸多

　　上传自己的“脸”,就能把诸多明星换成你的“表演”——还记得前阵子在朋友圈刷屏的“AI换脸”不?这类技术带来有趣体验的同时,也引发人们对隐私、版权、安全等方面的担忧。近日,监管部门“出手”了。国家互联网信息办公室等三部门联合发布的《网络音视频信息服务管理规定》,将从2020年1月1日起施行。 “AI换脸”现状如何?国内首个监管“AI换脸”的规定会带来什么影响?采访人员进行了探访。

　　策划:沈春宁

　　扬子晚报/紫牛新闻采访人员李冲徐兢马燕

　　新规出台

　　规定首次提出“辟谣机制”

　　近日,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(简称《规定》) 。

　　采访人员看到,《规定》中多次提及基于“深度学习”“虚拟现实”等新技术新应用的音视频。《规定》强调,网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

　　《规定》首次提出“辟谣机制”——网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。

　　《规定》还明确了监管和处罚机制——违反《规定》的,由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

　　探访现状

　　网上还可购买AI“换脸”制作

　　2017年底,deepfake换脸技术出现后,使用AI技术“造假”的视频也日渐增多。而且,随着技术的进步,此类视频变得越来越真假难辨,引发人们的担忧。

　　总体而言,通过大数据和机器学习,AI解构信息后,就能完美地生成他人的声音和形象信息。

　　今年八九月份,一款名为“ZAO”的APP刷屏朋友圈。只需在手机上安装这款APP,就可以在视频模板中一键“换脸” 。当时扬子晚报采访人员曾下载APP,并授权使用照片。体验的感受是:视频中自己的脸,像是介于明星和自己长相的“中间人” 。分享给朋友后,他们表示“跟你本人相似度60%-80%” 。

　　但就在“ZAO”流行的同时,其也因暗藏隐私泄露“大坑”,且无法注销的用户协议条款引发争议。

　　实际上,在“ZAO”之前,“AI换脸术”也曾风靡过。最火的莫过于“如何让杨幂拥有朱茵的演技?”——今年年初,一段借助“AI换脸”制作的94版《射雕英雄传》流行,黄蓉扮演者朱茵的脸被换成杨幂的,虽然五官不同,但换脸后的表情、动作自然流畅。

　　12月3日,扬子晚报采访人员在B站搜索“换脸术”,仍有相当多视频。有的是由“ZAO”直接生成,有的是专门做换脸视频的Up主上传。

　　此外,采访人员从淘宝上搜索“AI换脸”,也能找到大量机器合成的音视频。十几块钱就有商家提供这样的定制服务;自己使用手机APP也可以进行“换脸”制作。有PS“换头换脸”的商铺,只要手持照片,就能换背景,与明星合影,或者将人物的“头”完美“嫁接”到明星身上,不仅能正脸替换,还能将侧脸换成正脸。也有淘宝卖家表示,可以定制AI视频换脸,做成“穿越大片”、形象包装、“收集”明星祝福等。有的一分钟以内视频收费60元。

　　未来影响

　　将有助于行业健康有序发展

　　新规出台施行后,未来行业趋势如何?有分析认为,“AI换脸”不能是人工智能的“裸奔”,监管规定的出台,有助于规范行业的健康发展。那么,新规会给普通人带来什么样的影响呢?可以预见的是,今后创作者对换脸技术的使用必将更加谨慎,需要警惕其中面临的风险。对于希望利用换脸技术牟取利益的人来说,这同样是一种震慑,特别是色情视频等黑产从业者。

　　对于网络音视频信息服务使用者而言,则应依法使用网络音视频信息服务,自己的权利受到侵犯时一定要举报投诉,依法保护自己应有的权利。