江苏龙网

  1. 首页 > 资讯 > 科技 > >

脑极体|当人脸识别对准执法者，AI的应用边界博弈


北京联盟_本文原题：当人脸识别对准执法者 ， AI的应用边界博弈
当AI技术正在带来欣欣向荣的智能产业之时 ， 我们有感于AI可以应用的范围之广 ， 也感慨于AI普及速度之快 。 这其中一个非常重要的原因 ， 就在于AI的开发门槛在大幅降低 。
骄阳之下 ， 必生阴影 。 当AI正在进入寻常百姓家的同时 ， AI技术也可能在那些不法之徒手中变身恶龙 ， 释放规模更大、后果更严重的人性之恶 。
还记得去年那个可以“一键脱衣”的DeepNude软件么 ， 因为触犯用户隐私也触及道德底线而在爆火之后被马上禁止 。 但这项技术却被很多人盯上 ， 也给了很多黑产以灵感 。
据报道 ， 最近一个DeepNude2.0版本的应用程序在Telegram APP上出现 ， 同样也是主打“一键脱衣”的功能 。 与1.0版本有一定技术门槛不同的是 ， 原先还需要用户安装完整软件和完整的神经网络框架 ， 做好设置调试等操作才能得到一张“裸照” ， 而现在只需从手机里上传一张照片 ， 不需要任何技术和专门的硬件支持 ， 就能把照片中的目标“一键脱衣” 。
脑极体|当人脸识别对准执法者，AI的应用边界博弈
本文插图

据发现这一软件的安全公司称 ， 当时已经产生了至少68万名女性的“假裸照” ， 这意味着大量普通人正在遭受AI所带来的隐私和名誉的危害 。 受害者的“照片”不仅有可能被不法分子用来牟利 ， 如果同时泄露更多社交信息 ， 还有潜在的勒索威胁 。
我们不得不面对AI在应用中的这一问题：“AI for Good”还是“AI for Evil” ， 更为复杂的是 ， 一些AI技术应用 ， 比如人脸识别 ， 也正陷入到了新的博弈困境 ， 比如 ， 人脸识别技术能否成为普通人对抗强者的工具 ， 还是说 ， 这些AI应用必须彻底禁止就行？
这恐怕并不容易能够立刻做出回答 。
人脸识别 ， 反过来对准了执法者
“我们正在逼近小人物也能对付大人物的技术门槛 。 ”
这是下面事件里的开发者的立场 。 他所指的技术正是人脸识别 。 而事件的起因是 ， 今年因为非裔男子佛洛依德之死所引发的全美大抗议 。
事件之后 ， 美国俄勒冈州波特兰市爆发了持续数月的抗议游行 ， 联邦特工和波特兰警方加入到旷日持久的阻击和镇压当中 。 从之前的新闻看来 ， 警方不仅使用了催泪瓦斯 ， 甚至在冲突后出现了枪击 ， 一人因枪击死亡的事件 。
脑极体|当人脸识别对准执法者，AI的应用边界博弈
本文插图

一名参与了持续抗疫的开发者Christopher Howell则坚持认为 ， “我们必须明确责任 ， 需要知道事件中谁做了什么 。 ”他所指的就是要对警方身份进行识别和行为进行确认 。
Howell是一个熟悉神经网络算法的开发者 ， 他们当时正好也拍摄了很多警察执法的照片 。 为了防止滥用警力 ， 或警察违规执法 ， 原本警员制服上的名字可以告诉公众人们他们的身份 ， 但是在这场示威游行中 ， 波特兰市警察局允许了身穿制服的警察可以遮挡住自己的名字 。
因此 ， Howell才使用了人脸识别技术 ， 连同政府官网、社交媒体和新闻报道中搜集到的警员照片 ， 来辨认这些执法警察 。
而几乎同时 ， 9月初波特兰市议会开始公开讨论 ， 是否出台一项立法以全面禁止使用人脸识别技术 ， 该法案将主要禁止警员利用摘下抗议者面罩或者用监视摄像头拍下并识别这些人的身份 ， 也阻止企业和其他组织使用该技术识别未知人员的身份 。
该法案征求意见期间 ， Howell反映了他用人脸识别技术来识别波特兰警员的事情 ， 这件事让波特兰官方感到非常不爽 。 经过讨论 ， 该法案也得到了市议会的通过 ， 但Howell个人可以继续开展该项目 。
【脑极体|当人脸识别对准执法者，AI的应用边界博弈】


推荐阅读


上一篇：大飙车|广汽菲克被传撤资，官方回应来了

下一篇：续航|2020年最受欢迎的6种智能手表，你觉得哪个更值得入手呢？