江苏龙网

  1. 首页 > 人文 > >

推特|AI圈的杠精惹不起：图灵奖得主“认输”关闭社交账号

经历了长达两周的「骂战」，Yann LeCun不知是感觉失望还是心累，于今日宣布，将退出推特，不会再在该平台上发表言论 。
Yann LeCun 在推特上的最后发声：
请社交网络上的所有人不要再互相攻击了，特别是对 Timnit Gebru 的攻击，以及对于我之前言论的攻击 。无论是口头还是任何其他方式的冲突，都只会得到伤害和相反的结果 。我反对一切形式的歧视 。这将是我在推特上最后一篇帖子 。
这场争议起源于提出PULSE这一模型的论文，有人用作者在论文中开源的代码进行了模型推理：用奥巴马的打码图像进行了试验，结果发现奥巴马被还原成了白人 。
由于PULSE建立在StyleGAN的基础上，而StyleGAN所用的数据集是FFHQ，这个数据集里包含了90%以上的白人人脸 。PULSE的特点在于，可以将多个不同但相似的人脸图像聚合为同一个低分辨率图像 。
许多算法都试图从低分辨率恢复高分辨率图像，这可能是错误的方法，原始图像实际上是信息稀疏的 。因此，奥巴马的打码图像还原后也不一定是奥巴马，我们会坚持认为那张图像的原型必然是奥巴马，也是由于记忆先验导致的偏见 。PULSE提供的不是错误的答案，也不是故意的，但提供了有偏见的答案 。
针对这张图，Yann LeCun在推特上发表了这么一句话：“当数据有偏见时，机器学习系统就变得有偏见 。这个人脸上采样系统让每个人看起来都像白人，因为网络是在FlickFaceHQ数据集上预训练的，而这个数据集主要包含白人图像 。”
这为LeCun招来了不少的批评，很多专家认为LeCun在提出狭隘甚至错误的观点误导人们，并纷纷提出了自己的质疑 。LeCun对这些质疑一一回应，但仍得不到理解 。
一开始争论的焦点在于：AI产生偏见的原因是否只是数据集导致？算法本身的缺陷能不能成为原因？尽管LeCun后来在一系列的推文中一条一条地解释自己的观点，指出自己同意各位专家的质疑，只是自己的论点建立在特定的条件下，数据确实不是AI偏见的唯一来源 。
然而，由于与LeCun辩论的专家中有一位是斯坦福 AI Lab 成员、Google AI 黑人女性科学家 Timnit Gebru（非洲裔美国人），“黑人”和“女性”这两个敏感词不知为何成为了众人借题发挥攻击LeCun的工具 。
争论中走向了真正的“偏见”
作为AI的公平性、问责制和透明性的领先研究者，Timnit Gebru首先在推文中对 LeCun 的言论表示「失望」，并指出机器学习系统中的偏见仅来自数据的观点是不正确的 。她还建议Yann LeCun查看她之前做过的课程，因为她才是专家 。
Yann LeCun后来在Timnit Gebru 的推特评论区连写 17 条回复：表示自己同意她的观点 。
Timnit Gebru对此的回应却是：我出于自己的理智不再与您交流，因为这不值得我花费时间 。
Yann LeCun回应：我很遗憾您不愿意讨论实质内容 。我曾希望从这种交流中学到一些东西 。FB中有几个小组完全专注于ML / AI的公平性，偏见和社会影响 。
有人批评Yann LeCun，并称其向Timnit Gebru讲授她的专业知识，居高临下，并涉及言论霸凌 。
【推特|AI圈的杠精惹不起：图灵奖得主“认输”关闭社交账号】另外还有人说，Yann LeCun给该领域的专家提供了推文教程，没有问任何问题，没有进行真正的讨论，没有尊重她的专家地位，也没有要求澄清她的任何观点，还要求她控制情绪，那么又希望她如何参与？其中还有人特别强调了Timnit Gebru的黑人女性身份，暗示Yann LeCun存在歧视行为 。甚至还有人直接批评Yann LeCun在进行对女性的“直男”说教 。
也有很多人在为Yann LeCun辩护，表示他的行为是理性、冷静和有耐心的，并且也称得上是AI偏见方面的专家，他不应该为自己没做错的事情道歉 。
Yann LeCun后来在推文中向Timnit Gebru表示赞赏她在AI道德、公平方面的工作，并对自己的交流方式道歉，希望她能和Facebook AI的研究员一起交流如何一起和偏见作斗争 。


推荐阅读


上一篇：「中国」2020上半年全国智能音箱销量近2000万 天猫精灵占比34.7%份额第一

下一篇：自贡|三星堆陶猪出土就成“网红”，网友：咋这么眼熟？