江苏龙网

  1. 首页 > 生活 > >

「主观」人工智能并非魔盒，什么是AI中的基本事实？( 二 )


什么是基本真理？
「主观」人工智能并非魔盒，什么是AI中的基本事实？
文章图片
来源：Pexels
你可能听说过“基本事实”这个词在ML/AI空间中流传，但它是什么意思？新闻快报：基本事实并不真实。这是一个理想的预期结果（据负责人说）。换句话说，这是一种通过创建一组具有输出标签的示例来总结项目所有者意见的方法，这些所有者认为输出标签是可以接受的。它可能涉及手工标记示例数据点或将传感器“放在地面”（在一个精确的真实位置）以收集所需的答案数据，用于培训系统。
新闻快报：基本事实并不真实。
例如，根据项目负责人的意见，一组图像可能被精心手工标记为cat或not cat，这些cat/not cat标签将被称为项目的“基本事实”。
「主观」人工智能并非魔盒，什么是AI中的基本事实？
文章图片
这到底是什么？！猫还是不猫？看电影《猫》的预告片时，笔者忍不住要擦亮眼睛。
当这样一个数据集被用来训练ML/AI系统时，基于它的系统将继承和放大决定理想系统行为的人的隐含值。
基于数据创建机器系统时，给系统注入价值观。
当讨论这个话题的时候，请注意，通过让受信任的人执行任务来创造“基本事实”是会受到各种错误的影响的，包括人为错误。通过基于共识的数据收集工作流程、反应时间监控和聪明的用户体验（UX）技巧（减少数据输入错误的可能性）等方法，尝试将此错误的可能性降至最低是一个好主意。（更多内容将在以后的文章中介绍。）
让项目的决策者随机检查一个样本，以检查质量是否足够高，这总是一个好主意。
如果在互联网上找到一个数据集并使用它而不是自己收集呢？然后，你的项目继承了创建数据集的人的隐式值和偏见。一路上总有一些主观的要求，不管是谁提出的，都会为项目确定“对”和“错”。小心信任的人！决策者有很多话要说，他们要花时间自己完成任务，以便更好地理解他们试图解决的问题，以及数据、目标和边缘案例。
警告（如何做一个好公民）
「主观」人工智能并非魔盒，什么是AI中的基本事实？
文章图片
来源：Pexels
笔者写了很多文章来赞扬对ML/AI系统的仔细测试，但是要小心！由于整个过程从根本上导致了定义和目标的主观性，所有测试都将根据团队决策者喜欢的答案进行。不幸的是，这些主观方面的愚蠢首先是没有测试的。对决策者没有任何制衡，除非其他决策者审查了他们在项目第一阶段所作选择的理由。
没有一个测试可以检验主观定义和目标的愚蠢，所以请明智地选择项目负责人。
现在知道了所有ML/AI项目的第一部分是多么主观，可以在一个日益被人工智能淹没的社会中成为一个更好的公民。与其表面上接受人工智能解决方案，还不如问问自己：
· 谁建立了这个系统？
· 他们的（主观）目标是什么？
【 「主观」人工智能并非魔盒，什么是AI中的基本事实？】· 他们如何定义正确答案？
· 大多数人会提出类似的定义吗？
· 如何创建基本事实数据集？
· 这个系统打算惠及哪些人？
· 错误会有多痛苦？
· 是否内置了适当的安全网？（系统创造者是否谦卑地预见到他们的选择可能是不明智的，并据此制定计划？）
在很多情况下，对这些问题的回答不会显示出任何可怕的东西。人工智能已经在周围了，在很大程度上它是精心设计和营养丰富的。
唉，偶尔会发现自己陷入了困境。
「主观」人工智能并非魔盒，什么是AI中的基本事实？
文章图片
来源：Pexels
例如，不想成为短视的欺诈检测系统的牺牲品，该系统对金融欺诈的定义过于草率，特别是如果允许这样的系统在不给人们提供证明自己清白的简单方法的情况下诬告他们。那是一个乞讨麻烦的火药桶。作为一个负责任的公民，应该注意到易燃的情况并把它们叫出去。


推荐阅读


上一篇： 『七窍流血』杀死关羽的吕蒙，为何“七窍流血”而死是关羽显圣吗！

下一篇： 『网民』寻找卢本伟，离开公众视野两年，网民越来越想他了！