江苏龙网

  1. 首页 > 人文 > >

防不胜防的AI水军，比Deepfake还可怕

萧箫发自凹非寺
量子位报道|公众号QbitAI
【防不胜防的AI水军，比Deepfake还可怕】AI水军 ， 到底长啥样？
这是一条微博下面的评论：
防不胜防的AI水军，比Deepfake还可怕
文章图片

△图源微博@僵尸文学bot
其实这些评论的博主 ， 从名字和语言风格来看 ， 都不是人 ， 而是用AI生成的僵尸号 。
如果GPT-3也成为僵尸号活跃在我们的社交网络 ， 还制造谣言 ， 是不是很恐怖？
现实是 ， 这样的事情正在发生 。
相比于真实的流量 ， 利用AI伪造成「水军」 ， 用来在社交媒体上刷关注度和点赞量 ， 显然性价比更高 。
流量造假也罢了 ， 如果「AI水军」在社交媒体上批量传播极具煽动性的假消息、假言论——
甚至欺骗过了你的妈妈 ， 让她把炮制的假消息转发到了家人群……
防不胜防的AI水军，比Deepfake还可怕
文章图片

△这批美国网络水军账号 ， 基本都是机器人
可能你会认为 ， AI生成的假新闻、假消息 ， 影响范围也许并没有那么广 ， 不应当如此危言耸听 ， 因为人们很容易将之识别出来 。
但最新消息是 ， 现在的「AI水军」 ， 还可能足以影响2020年的美国总统选举 。
美国总统 ， 或许是AI选的
前段时间火爆的Deepfake ， 生成的以假乱真的图像及视频效果令人惊叹 ， 一定程度上也导致了虚假视频和图像的大量传播 。
甚至 ， 研究人员在调查哪种类型的操纵活动可能威胁到2020美国总统选举时 ， AI产生的误导性视频言论位居榜首 。
此后 ， 诸多社交平台不得不针对这些图像和视频出台了相关政策 ， 以寻求自由表达和真实性之间的平衡 。
Deepfake的视频图像伪造痕迹 ， 或许有迹可循 ， 但AI制造的「Textfake」却往往更加难以禁绝 。
例如 ， 在2016年美国总统选举时 ， 就曾出现过大量文字版水军言论 ， 如下图 。
防不胜防的AI水军，比Deepfake还可怕
文章图片

「惊爆！米歇尔奥巴马竟是男人！」「重磅！奥巴马是穆斯林！」「震惊！种族主义者希拉里践踏黑人！」……
这些虚假消息往往根据真实信息改编 ， 因此更具有迷惑和煽动性 。
据悉 ， 2019年末 ， Facebook关闭了来自美国和越南的610个账号、89个专页和156个群主 ， 其中专页的关注者约有5500万 。
这其中 ， 一些账号使用了AI生成并伪装成美国公民的个人资料图片 ， 并用来发布虚假消息 ， 支持特朗普 。
或者 ， 攻击特朗普的竞争对手 。
防不胜防的AI水军，比Deepfake还可怕
文章图片

想象一下 ， 如果你是一名无倾向的美国选民 ， 看见社交媒体上的「人」都在一边倒地支持某个候选人 ， 你会怎么选择？
而AI伪造虚假信息的能力 ， 也正随着AI技术的不断发展「进步升级」 。
和你说话的「人」 ， 也许是GPT-3
例如 ， 最近大火的GPT-3 ， 文本信息生成的能力就备受瞩目 。
与Deepfake不同的是 ， 这种「Textfake」生成的文本内容 ， 相比图片和视频 ， 虚假信息往往也更隐蔽 。
想象一下 ， GPT-3可以学习某个人的语言风格 ， 甚至能扮演成那个人和你对话 。
如果AI没有犯低级错误的话 ， 你甚至可能判断不出来他的真假 。
防不胜防的AI水军，比Deepfake还可怕
文章图片

而且 ， 即使有低级错误 ， 研究人员表示 ， GPT-3也能通过微调来及时改正 。
是不是有点细思极恐？
不可否认的是 ， 各种AI水军的出现 ， 正在让网路两端的信任不断降低 。
随着AI检测变得越来越困难 ， 我们可能也更难信任网上所看到的内容 。
但这不意味着 ， 我们就要否认一切来自网上的消息 ， 在了解过真实情况后 ， 最重要的还是拥有自己的判别能力 。
毕竟 ， 早些年的背背佳和小罐茶 ， 也不是AI制造出来的假消息（狗头） 。
了解真实 ， 洞鉴是非
其实最重要的是 ， 人们要对潜在的假新闻、假消息有一个自我判断的能力 。
毕竟 ， AI水军泛滥的情况 ， 一定程度上也反映出 ， 人们对AI造假的能力亟待重视 。
预防的第一步 ， 是人们必须对AI造假的真实情况有一个了解 。
如果知道了社交媒体上有高仿机器人 ， 那么人们在被煽动前 ， 也许会冷静下来 ， 去判断是非 。
与其根据某条消息的「传播度」去判断它的真实性 ， 更应该从事实出发进行评估 。


    推荐阅读


    上一篇：TFBOYS|TFBOYS新歌预告在哪里看 TFBOYS新歌叫什么在哪里听

    下一篇：高温|河南省固始县发布高温橙色预警 2020-08-05