江苏龙网

  1. 首页 > 生活 > >

AI科技大本营|Gary Marcus：因果熵理论的荒诞和认知科学带给AI的11个启示 | 文末赠书( 三 )


每一个层级都包含巨大的复杂性 。 同时 ， 还有 150多个可识别的不同脑区 ， 以及脑区之间大量错综复杂的连接网 。正如神经科学先驱圣地亚哥·拉蒙 – 卡哈尔(Santiago Ramo?n y Cajal)在 1906 年诺贝尔奖获奖感言中所说:“可惜的是 ， 大自然似乎并没有意识到我们在智力需求上对便利和统一的向往 ， 经常在复杂和多样性中寻找
真正拥有智慧和复杂性的系统 ， 很可能就像大脑一样充满复杂性 。 任何一个提出将智慧凝练成为单一原则的理论 ， 或是简化成为单一“终极算法”的理论 ， 都将误入歧途 。
认知大量利用内部表征
对行为主义一击致命的 ， 是 1959 年乔姆斯基写的一篇书评 。 斯基的攻击目标是“语言行为” 。 当年在全世界占据领导地位的心理学家 B.F. 斯金纳(B.F. Skinner)曾试图用语言行为理论来解释人类的语言 。
乔姆斯基的批判核心是围绕着这样一个问题展开的:人类语言是否可以严格地仅从个体的外部环境中所发生历史的角度去理解 。 所谓外部环境 ， 指的是人们说了什么 ， 他们得到了什么样的回应 。 换句话说 ， 理解个体内部的心理结构是否重要 。 乔姆斯基在他的结语中 ， 着重强调了这样一个观点“:我们将一个新事物识别为一个句子 ， 并不是因为它以简单的形式与我们所熟悉的某个事物相匹配 ， 而是因为它是由语法生成的 ， 而每个人都以某种方式、某种形式将语法内在化了 。 ”
乔姆斯基认为 ， 只有理解了这种内在的语法 ， 我们才有希望了解孩子是如何学习语言的 ， 仅仅靠刺激和响应的历史 ， 永远不会让我们达到这个目标 。
在行为主义应声陨落时 ， 取而代之的是一个全新的领域— 认知心理学 。 行为主义曾试图完全根据外部奖励历史来对行为进行解释(刺激和响应 ， 可能会让读者想起深度学习在当下应用中非常流行的“监督学习”) ， 而认知心理学则主要关注内部表征 ， 如信念、欲望和目标 。
本书中 ， 我们一次又一次地看到 ， 机器学习 ， 尤其是神经网络 ， 试图以过少的表征来搞定一切 ， 这会导致什么样的结果 。 从严格的技术意义上讲 ， 神经网络也具有表征 ， 比如表示输入、输出和隐藏单元的向量 ， 但几乎完全不具备更加丰富的内容 。 例如 ， 没有任何直接的方法来表征认知心理学家所谓的命题(proposition) ， 这些命题用以描述实体之间的关系 。 例如 ， 若要在经典人工智能系统中表示美国总统约翰 · 肯尼迪 1963 年著名的柏林之行— 当时他说了一句“我是柏林人” ， 可以加上一组命题 ， 例如“是......的一部分”(柏林 ， 德国)和“拜访”(肯尼迪 ， 柏林 ， 1963 年 6 月) 。 在经典人工智能中 ， 知识完全是由这类表征的积累所组成的 ， 而推理则是建立在此基础之上的 。 以此为基础 ， 推断出肯尼迪访问德国 ， 就是轻而易举的了 。
深度学习试图用一堆向量来模糊处理这个问题 ， 这些向量会粗略捕捉一些信息 ， 但永远不会直接表示出类似“拜访”(肯尼迪 ， 柏林 ， 1963 年 6 月)这样的命题 。 赶上好时候 ， 深度学习中常见的那种变通方法或许可以正确推断出肯尼迪访问过德国 ， 但却不具备可靠性 。 遇上运气不好的时候 ， 纯粹的深度学习就会犯糊涂 ， 甚至推断肯尼迪访问过东德(这在 1963 年是完全不可能的) ， 或者他的兄弟罗伯特访问过波恩 ， 因为所有这些可能性都在所谓的向量空间附近 。 你不能指望通过深度学习来进行推理和抽象思考 ， 因为它一开始就不是为了表征精确的事实知识而存在的 。
如果事实本身模糊不清 ， 得到正确的推理就会难于上青天 。 外显表征的缺失 ， 也在 DeepMind 的雅达利游戏系统中造成了类似的问题 。 DeepMind的雅达利游戏系统之所以在《打砖块》这类游戏的场景发生稍许变化时便会崩溃 ， 原因就在于它实际上根本不表征挡板、球和墙壁等抽象概念 。


推荐阅读


上一篇：家风|@河源人，这里有一个好家风微视频征集活动，快来报名吧！

下一篇：时光网Mtime|网飞又出爽剧，烧脑悬疑+末日科幻，一集就上天