江苏龙网

  1. 首页 > 生活 > >

AI科技大本营|Gary Marcus：因果熵理论的荒诞和认知科学带给AI的11个启示 | 文末赠书( 二 )


到了 20 世纪 50 年代后期 ， 绝大多数美国大学的心理学系都充斥着用小鼠和鸽子进行精密量化行为实验的心理学家 ， 他们想要通过这样的方法 ， 用曲线图描述一切 ， 并总结 出精准的数学因果定律 。
20 年之后 ， 在诺姆 · 乔姆斯基(Noam Chomsky)的打击下 ， 行为主义几乎完全销声匿迹 。 个中原因我们随后讨论 。 在充满局限性的实验中在小鼠身上起效的方法 ， 在研究人类的过程中根本毫无用处 。 奖励和惩罚的确有用 ， 但还有太多其他能发挥影响力的事物 。
用耶鲁大学认知科学家查兹·费尔斯通(Chaz Firestone)和布莱恩·肖勒(Brian Scholl)的话说 ， 问题就在于“心智发挥作用没有统一的方法 ， 因 为心智本身就不是单一的 。 心智拥有不同的部分 ， 而不同的部分也以不同 的方法运转:看到某个色彩 ， 其背后的工作原理和策划一场旅行是完全不同 的 ， 而策划一场旅行背后的工作原理又和理解语句、移动肢体、记住事实、 体会情感是完全不同的” 。 没有哪个等式能涵盖住人类心智的多样性 。
【AI科技大本营|Gary Marcus：因果熵理论的荒诞和认知科学带给AI的11个启示 | 文末赠书】计算机不必用人类的方式去工作 。 计算机无须犯下影响人类思想的许多认知错误 ， 比如证实偏见— 忽略掉与你先前所知理论相悖的数据 ， 也无须反映出人类心智的许多局限性 ， 比如人类在记忆超过 7 项内容的列表时会遇到困难 。 机器没有理由用人类容易出错的方式来进行数学运算 。 人类在许 多方面都并不完美 ， 机器无须继承同样的缺憾 。 而人类心智在阅读和灵活 思考方面远超机器 ， 我们仍需深入了解人类心智在这方面的工作原理 。
在此 ， 我们提出从认知科学— 心理学、语言学和哲学中提炼出来的11 个启示 。 如果 AI 有朝一日能具备人类智慧的宽度和鲁棒性 ， 那么我们认为这 11 个启示在 AI 的发展过程中有着至关重要的意义 。
没有银弹
维斯纳 – 格罗斯和弗里尔的那篇论文 ， 我们一看便知其内容言过其实（编者注：《没有银弹》(No Silver Bullet)是软件工程领域的一篇经典论文 ， 强调由于软件的复杂性本 质 ， 没有任何单一技术突破可以让软件工程效率获得数量级的提升） 。
行为主义也是一样 ， 总想着大包大揽 。 为了达到自身的目的 ， 有点灵活过度 。 仅凭动物的奖励行为历史 ， 就可以对任何真实或想象中的行为进行解释 ， 如果动物做了意想不到的事情 ， 那就转而去强调历史中的另一个方面 。 不存在真实而有效的预测方法 ， 只有许多在事情发生之后对其进行“解释”的工具 。
最后 ， 行为主义实际上只给出了一个靠谱的说法 ， 但这个说法又没什么实际应用价值 。 这个说法就是 ， 包括人类在内的动物喜欢去做那些能得到奖励的事情 。 这一点儿都没错 ， 在其他因素相同的情况下 ， 人们会选择能得到更大奖励的那个选项 。 但这个说法无法帮我们解释人们怎么理解电影中的对话 ， 怎么搞明白安装宜家书架时凸轮锁的使用方法 。 奖励的确是整个体系之中的一部分 ， 但并非体系本身 。 维斯纳 – 格罗斯只是把奖励这个概念重新包装了一遍 ， 用他的话说 ， 有机体如果抵抗宇宙的混乱(熵) ， 就会获得奖励 。 我们谁也不想化为尘埃 ， 我们都会抵抗混乱 ， 但这并不能解释人类是如何做出个体选择的 。
在我们看来 ， 深度学习也落入了“寻找银弹”的陷阱 ， 用充满“残差项”和“损失函数”等术语的全新数学方法来分析世界 ， 依然局限于“奖励最大化”的角度 ， 而不去思考 ， 若想获得对世界的“深度理解” ， 整个体系中还需要引入哪些东西 。
神经科学研究让我们懂得 ， 大脑是极为复杂的 ， 常常被人们称作宇宙中已知的最复杂的系统 。 这样的说法很有道理 。 人类大脑平均拥有成百上千种不同类别的约 860 亿个神经元 ， 数万亿个突触 ， 每个突触中有数百种不同的蛋白质 。


推荐阅读


上一篇：家风|@河源人，这里有一个好家风微视频征集活动，快来报名吧！

下一篇：时光网Mtime|网飞又出爽剧，烧脑悬疑+末日科幻，一集就上天