江苏龙网

  1. 主页 > 生活百科 > >

AI换脸风暴：骗局、产业与技术防守( 二 )

AI换脸


他觉得，还是需要人们自身提高防范意识，大众也应该多接受知识普及，至少要知道技术已经发展到哪个地步了，自己多警觉一些 。
沈阳补充说，防范AI风险还需要AI生成平台，以及社交传播渠道的配合 。比如AI换脸，或是换声时，内容生成平台应该自动打码，标注其是由AI合成，以起到提醒作用 。
陈锡言也赞成这一点，他认为一项AI内容诞生后，人们应该是被告知的，这比较符合价值观和伦理 。此外，传播渠道也有自己的责任，一旦发现某个账号涉嫌诈骗，应该及时封控账号 。
选择与进退
事实上，“AI换脸”的风险不止于诈骗 。也被大量使用到影视剧二度创作、趣味恶搞视频、表情包制作当中，其中法律风险和侵权纠纷已经出现 。
天眼查显示，上海鱼腥草信息科技有限公司就因旗下一款AI换脸App而遭多位网红博主起诉，法院判决该公司公开道歉，并赔偿经济损失 。今年3月，一名女性搭乘地铁时的照片被人用AI软件“一键脱衣”，遭到恶意传播 。
张文浩告诉采访人员，近期“AI换脸”问题频发的根本原因是，多个AI大模型开源，开发工具非常多，使用门槛极速降低 。恶意使用者用开发工具生成AI内容，也很简单直接 。“在技术上已经到了这样的程度了 。”张文浩是清华大学人工智能博士，对基础模型、图像视觉等领域有多年研究 。
目前，互联网大厂或是正规企业没有做面向C端的AI产品，但这也给了灰色地带以机会 。
派拓网络大中华区售前总经理董春涛发现，包括AI换脸在内的AI攻击之所以会愈演愈烈，和网络犯罪门槛逐渐降低是分不开的 。暗网中的一些攻击工具可以很低廉——甚至不到10美元，而且还出现了软件即服务模式和ChatGPT等AI工具，给初级和业余黑客大开方便之门 。董春涛有多年网络安全背景，派拓网络是一家关注AI生成内容工具对网络安全的影响的公司 。
派拓网络数据显示，从2022年11月至2023年4月初，ChatGPT相关域名注册量每月暴涨910% 。期间，团队从DNS安全日志中发现相关抢注域名的盗用增长高达17818% 。
图灵三巨头之一、蒙特利尔大学的教授YoshuaBengio此前就预警了这种风险 。他在解释自己为什么签名赞成暂停超强AI研发时说，自从ChatGPT发布以来，大家发现不那么谨慎守规矩的玩家会有竞争优势，如果是这样的话，通过降低谨慎和道德监督的水平，就更容易出头 。
AI孙燕姿爆火后，一位互联网大厂人士告诉采访人员，他们公司内部其实早就有类似产品，并且能生成比网络上效果更好，可以媲美歌手在录音棚录制效果的歌曲，但担心版权风险以及不可控的其他风险，一直没有面向C端用户推出 。
互联网公司们对AI大模型及GPT产品都非常谨慎 。目前为止，推出大模型内测的公司有几十家，但都在内测，没有一个向公众开放 。
上述大模型公司技术人员告诉采访人员，互联网公司都在朝着无害性的生成内容方向去努力，如果无法解决安全问题的话，大模型产品是不会真正上线的 。
大模型加持的AI产品和以前的AI产品完全不同 。上述互联网大厂人士举例说，比如抖音之前推出过一键变成漫画脸，AI换装等，这些AI玩法属于定制化的，已经提前设置好结果了 。但大模型加持后，AI生成的结果完全是随机的，“这真的很可怕，根本管不住 。”
AI创业公司的态度也同样谨慎 。独到科技产品主要面向B端客户，为KOL或专业人士、广告营销公司、以及各行各业有营销和拉新需求的企业，提供一键式生成视频的功能 。这个产品已经成熟，可以向C端用户推出 。但张文浩目前不考虑C端市场 。
一览科技联合创始人兼CTO陈锡言认为，GPT对话模式已经把AI应用层覆盖了一大半，不过好的方面是，垂直2B的领域，创业公司还是有机会的 。比如文娱行业，一览科技目前推出了从AI编剧到AI视频一整条产业链的AI内容生成服务 。影视剧组、MCN公司已经使用他们的产品 。
产业与边界
当前面向C端的AI公司也不受投资者青睐 。采访人员统计了最近3个月AI领域投融资情况，获得投资的B端公司的11个，C端公司有1个，还有5家公司B端、C端都做 。投资机构不太敢投C端产品，他们担心产品万一出事，就白投了 。
这种教训早有先例 。2019年8月底，陌陌旗下产品ZAO也推出过一键换脸功能，当时ZAO一夜走红，迅速登上苹果App Store免费榜的第一位 。但仅仅过了3天，ZAO就被质疑侵犯隐私，被工信部约谈，之后下架 。2021年3月另一款AI换脸产品Avatarify经历了类似的过程，这款问鼎过中国区App Store应用免费榜榜首的AI换脸产品，3月2日凌晨悄然从App Store下架 。


推荐阅读


上一篇：张学润|59岁港星张学润烧炭自尽, 好友透露其三年没收入、一年没买新衣服

下一篇：李彦宏：大模型即将改变世界，要把全部产品重做一遍！