江苏龙网

  1. 首页 > 人文 > >

「看面相识别罪犯」论文要上Nature？遭1700名科学家联名反对

机器之心报道
参与：泽南、小舟
【「看面相识别罪犯」论文要上Nature？遭1700名科学家联名反对】有1700名研究者签字联名抵制Nature出版一篇AI研究论文 ， 这可是头一次 。
「看面相识别罪犯」论文要上Nature？遭1700名科学家联名反对
文章图片
「我们敦促审核委员会公开撤销论文通过的决定 ， 并解释评估该论文通过的标准 。 Springer需要公开声明谴责使用刑事司法统计数据预测犯罪行为 ， 并承认其过去在激励这种有害学术方面的作用 。 所有出版商今后都不要发表类似的研究 。 」
在一份长长的公开信中 ， 数千名AI研究人员呼吁科学出版商SpringerNature不要发表一篇论文 。 据介绍 ， 该研究提出了一种面部识别系统 ， 能够预测一个人是否为犯罪分子 。 这篇论文由美国哈里斯堡科技大学（HarrisburgUniversityofScienceandTechnology）提交 。
是什么研究引发了如此争议？在这篇名为《ADeepNeuralNetworkModeltoPredictCriminalityUsingImageProcessing》的论文中 ， 研究人员称该技术没有种族偏见 ， 根据照片中人的面部特征预测是否为罪犯的准确性达到了80％ ， 这一深度学习方法是面向执法机构开发的 。
这篇论文的第一作者 ， 哈里斯堡科技大学在读博士JonathanKorn是一名前纽约警察 。 同为论文作者的RoozbehSadeghian教授在论文提交的新闻中表示：「我们知道机器学习技术在与面部识别和情感检测有关的各种任务上可实现超过人类的水平 。 新研究表明 ， 这些工具可以从图像中提取出高度可预测犯罪的微小特征 ， 这证明了新方法的强大 。 」
在原先的计划中 ， 这篇论文会被收录在《自然》研究丛书「SpringerNature–ResearchBookSeries:TransactionsonComputationalScience&ComputationalIntelligence」中 。
「通过无偏见地自动识别潜在威胁 ， 我们可以实现预防犯罪的目标 ， 为执法部门和军事应用提供受到隐形偏见和情感因素更小的工具 ， 」论文作者之一的NathanielAshby表示 。 「我们的下一步是寻找合作伙伴以推进这一使命 。 」
然而事情并不如作者所想的那样顺利 。 在新闻发布之后 ， 「AI看人脸预测犯罪」的研究很快引发了不小的争议 。 在社交网络上 ， 业界专家就效率、隐私和道德等原则达成了共识 ， 称该计划不负责任、牵强附会且「错得离谱」 ， 因为这可能引出AI判断一些人是天生罪犯的奇怪结果 。
「看面相识别罪犯」论文要上Nature？遭1700名科学家联名反对
文章图片
在论文提交后 ， 哈里斯堡科技大学的新闻稿 。 在5月份这篇新闻因争议过大又被删除 。
自5月论文提交的消息被曝出后 ， 这一研究一直被科学界关注与讨论 。 在最近的公开信中 ， 已经有来自哈佛大学、MIT、谷歌以及微软的学者和AI领域的专家在这封公开信上签字 。 他们呼吁出版公司Springer停止发表这篇论文：「我们是来自不同科技领域、学科和人文领域的研究者及从业人员 ， 我们对于即将出版的论文深表关注 。 」
公开信的组织者之一AudreyBeard在一份邮件声明中表示：「根本无法开发出不存在种族偏见的犯罪预测系统 ， 因为刑事司法数据本身就是存在种族偏见的 。 」
这已经不是AI研究者第一次提出这样令人质疑的研究了 。
根据人的相貌来评估犯罪几率 ， 这让人们想到了2016年11月上海交大提交到预印版论文平台arXiv上的论文《使用脸部图像自动推断罪犯》 ， 研究者声称通过大量证件照片的训练 ， 神经网络模型可以在识别罪犯时准确率达到87% 。 在当年 ， 该研究也曾引起学术界和舆论界的大量讨论 。
昨晚 ， Nature作出了澄清 ， 哈里斯堡科技大学的文章不会被《自然》杂志出版：
「看面相识别罪犯」论文要上Nature？遭1700名科学家联名反对
文章图片
但还是有人继续质问：「为什么这样的文章会进入Nature的审核流程？」看来想要消除深度学习的偏见 ， 避免其成为「作恶」的工具 ， 我们还有很多事情要做 。
公开信：
https://medium.com/@CoalitionForCriticalTechnology/abolish-the-techtoprisonpipeline-9b5b14366b16
参考内容：
https://www.biometricupdate.com/202005/biometric-software-that-allegedly-predicts-criminals-based-on-their-face-sparks-industry-controversy
WAIC2020黑客马拉松由世界人工智能大会组委会主办 ， 张江集团、优必选科技、软银集团旗下软银机器人、WatsonBuild创新中心、机器之心联合承办 ， 受到新冠疫情的影响 ， 比赛将于7月8日-11日期间以远程和小规模线下结合的方式举办 ， 招募全球顶级开发者同台竞技 。


    推荐阅读


    上一篇：为什么“万物生长靠太阳”的道理, 在深海不灵了呢！

    下一篇：董明珠的店更名为格力董明珠店，格力互联网直卖空调来了？