脑极体|当人脸识别对准执法者,AI的应用边界博弈( 二 )

这确实出人意料 。 代表执法者的官方被禁止使用人脸技术来对准民众 , 而民众个人则有权利用人脸识别技术来对抗执法者 。
Howell的做法并非孤例 。 原本执法部门可以通过政府数据库中的照片或者通过人脸识别技术公司Clearview AI从公共互联网中获得的照片 , 来利用人脸识别技术发现犯罪分子 , 而现在一些激进人士反过来用这一技术对付执法部门 , 用来揭露行为不当的执法人员的身份 。
去年 , 一名抗议者Colin Cheung试图通过警员在网上的照片来识别其身份 , 因为其在Facebook公开发布了该项目的视频而被捕 。
白俄罗斯的一个技术专家则通过YouTube演示了如何使用人脸识别技术来识别那些暴力执法的蒙面警察 , 其过程也是通过社交媒体上的警员照片进行对比而获得 。 当然 , 这位专家已经逃到了美国洛杉矶 。
通过Howell的案例我们看到 , 只要具有一定AI开发经验的普通人 , 都可以利用那些开放的图像识别软件 , 进行人脸识别技术的开发 , 比如Howell就用了谷歌的TensorFlow , 帮助他构建机器学习模型 。
这就是技术门槛降低带给“小人物对抗大人物”的底气 。 但是这样真的好吗?
滥用人脸识别:一场无人胜出的博弈
我们知道 , 波特兰市议会出台的这一项禁止政府使用人脸识别技术的法律 , 其根源正是来自于今年6月在全美开启的一项关于“人脸识别技术是否要禁止”的大争论 。
为声援全美掀起的“BLM”(黑命贵)抗议活动 , 微软、IBM、亚马逊为代表的科技企业纷纷表示拒绝向美国警方提供人脸识别技术服务 , 其中IBM公司直接宣称放弃人脸识别业务 , 激进可见一般 。 6月底 , 美国计算机协会(ACM)的技术政策小组呼吁 , 以记录在案的种族和性别偏见为由 , 公开敦促美国立法者立即中止企业和政府部门使用人脸识别 。
其实 , 在此之前 , 旧金山、波士顿等城市都以性别偏见和错误识别为由 , 已经禁止使用人脸识别技术用于警察执法 。 而现在 , 美国参众两院的议员推动 , 美国多个州的地方议会和政府也开始相继讨论和禁止用于执法的人脸识别技术 。
虽然警方的人脸识别的软件之前存在缺陷 , 出现过错误识别和逮捕嫌疑人的情况 , 但是技术的问题似乎应该通过改进技术来解决 , 现在为了政治正确 , 他们把这项技术也直接推翻 。
而另一面 , 我们也看到 , 小人物也获得了对付大人物的“屠龙术” 。 激进抗议者为了获得警察的身份数据也可谓是不遗余力 。
在引入人脸识别技术之前 , 一些反监视组织采取了众包的办法 , 就是依靠网络用户去识别那些有警察暴力执法视频中的警员身份 , 或者直接上传穿制服的警员照片 , 最后通过那些可以搜索到的记录执法人员的公共数据库 , 来找到警员的姓名、徽章编号 。
现在 , 这些开源的数据库正在成为像Howell这样的开发者获得警员身份照片的途径 , 而人脸识别技术又能快速判定现在执法行动中警员的身份 。
这当然是给受到暴力执法之苦的民众予以起诉这些执法警员的有利途径 , 但是同时人脸识别技术的应用有可能导致被更激进的人员滥用 。 因为这些警员也会有私人生活 , 也会携带家人和孩子出行 。 一旦有些人可以使用这一工具追踪这些警员 , 那么很可能让这些警员和家人处在更加危险的境地 。
普通民众担心官方滥用人脸识别技术 , 因为错误识别和种族偏见而蒙受不公待遇 , 而现在执法者却因为可能滥用的人脸识别技术 , 被激进者跟踪或报复 。
为了凸显这一矛盾 , 最近一个法国艺术家Paolo Cirio在网络发起了一个名为“Capture”的展览活动 , 公布了1000张法国警员的脸部照片 , 这是从互联网和一些参加抗议活动的摄影师那里获得的照片 。 他汇总了这些照片之后 , 声称这是开发一款人脸识别应用程序的第一步 。
脑极体|当人脸识别对准执法者,AI的应用边界博弈


推荐阅读