江苏龙网

  1. 首页 > 资讯 > 资讯 > >

趋同|AI存在偏见和歧视，算法让用户喜好趋同？科学家给出了证据( 二 )


理论上来说 ， 为了让算法保持准确和公平 ， 这个分类器应在整个过程中提供不同的人口群体的相似结果 。 但实际情况并非如此 。
在RAF-DB数据库中 ， 绝大多数的图片来自年龄在20-39岁之间的白人 。 从具体的数据来看 ， 这些图片有77.4％来自白人 ， 15.5％来自亚裔 ， 而只有7.1％来自非洲裔美国人；在性别方面 ， 女性为56.3％ ， 男性为43.7％；在年龄上 ， 超过一半的图片来自20-39岁的年轻人 ， 3岁以下和70岁以上的人甚至少于10% 。
为进一步研究数据库存在偏见的程度 ， 研究人员分别使用了三种算法对数据库的准确性和公平性进行评估 。 结果发现 ， 在准确性方面 ， RAF-DB数据库对少数族裔的识别准确性低于白人；在公平性方面 ， 性别属性相对更公平 ， 为97.3% ， 种族和年龄的公平性相对较低 ， 为88.1%和77.7% 。
趋同|AI存在偏见和歧视，算法让用户喜好趋同？科学家给出了证据
文章图片

RAF-DB数据库中的数据分布
而在CelebA数据库的图片来源中 ， 女性比例为61.4% ， 而男性只有38.6% 。 在年龄上 ， 年轻人占75.7% ， 明显超过了占比24.3%的老年人 。
在准确性方面 ， CelebA数据库对年轻女性的准确率为93.7％ ， 但对老年男性的准确性较低 ， 为90.7% 。 而该数据库在性别和年龄方面的公平性表现都较好 ， 分别为98.2%和98.1% 。
趋同|AI存在偏见和歧视，算法让用户喜好趋同？科学家给出了证据
文章图片

CelebA数据库中的数据分布
许多公司曾用人脸识别软件给面试者的情绪打分 ， 如果整个系统都是有偏见的 ， 对于面试者来说就意味着不公平 。 面部表情数据集中偏见的存也凸显了监管的必要性 。 如何用法律防止技术滥用 ， 成为未来这一领域里值得思考的问题之一 。
(本文来自澎湃新闻 ， 更多原创资讯请下载“澎湃新闻”APP)


推荐阅读


上一篇：建设|北京通州新建5G基站672个 年底核心区5G信号全覆盖

下一篇：建设|交通新基建未来15年“施工图”敲定