江苏龙网

  1. 首页 > 人文 > >

辛德蕾拉|因为我们不理解自己”，麦克尤恩如何想象人工智能：“机器人不理解我们( 二 )


黄昱宁表示 ， 她在与麦克尤恩私下交流的过程中曾得以一瞥他对机器人相关话题的长期关切 。 麦克尤恩曾在两年前的中国之行中告诉她 ， 早在1980年代初 ， 他就拥有了第一台个人电脑 ， 这说明了“他是对科技有强烈兴趣的这么一个文科生” 。 另外麦克尤恩曾在一次演讲中说过 ， 最初《赎罪》的设定里其实是有机器人元素的 ， 但他发现这个设定写不下去 ， 只好作罢 。 “过了这么多年 ， 他终于写成了一部机器人小说 ， 可见这个问题在他脑海里萦绕了多久 。 ”
麦克尤恩在小说中花费了不少笔墨刻画平行世界中八十年代的英国 ， “篡改”了真实的历史：英国在与阿根廷交战的马尔维纳斯群岛战役中失败 ， 导致撒切尔夫人下台；英国失业率飙升至16%；在撒切尔之后上台的左派领袖托尼·本恩在任期内被暗杀……小白认为 ， 小说选择的时间点非常好 ， 这不仅是机器人和人工智能概念开始成为大众趋势的时代 ， 也是当下政经格局开始形成的起点——英国的撒切尔和美国的里根开始推动政治新保守主义（亦或称新自由主义） ， 施行偏向富人的政策 ， 社会开始趋向不公平 。 在他看来 ， 麦克尤恩在小说中展露了他对历史、政治、伦理的通盘思考 。
其中一个因素是机器人发展出自我意识后与人类产生冲突 。 虽然目前科技界仍对机器人能否有自我意识争论不休 ， 但麦克尤恩显然在小说中给出了肯定的回答：由于有了自我意识 ， 亚当也有了自我保护的概念 ， 当查理再一次试图关掉它的电源时 ， 亚当阻止了他 ， 捏碎了他的腕骨 。 小说中 ， 图灵告诉查理 ， 那批测试机器人中已经有11位设法取消了开关 。
张峥认为这是我们在讨论机器人话题时需要严肃对待的一个问题 。 和“自由”相比 ， “存在”或许是对机器人来说更关键的问题——所谓存在 ， 就是人类不能关闭它们的电源 。 但从设计者的角度来看 ， 这就问题重重了：如果机器人出现了故障该怎么办呢？“这本书有很多（类似）问题可以讨论 ， 把它单纯当作科幻小说读不过瘾 ， 需要慢慢细读 。 ”张峥说 。
小白指出 ， 历史上真正的图灵其实就认真思考过“一键关闭机器人”的问题 。 1951年 ， 他在BBC一档谈话节目中做了一个题为“机器能思考吗？”的演讲 ， 其中说到 ， 就算人类把开关控制在手中 ， 紧急时刻有能力关掉它 ， 对人类来说 ， 这也有够耻辱的（Weshould,asaspecies,feelgreathumbled） 。
在小说中 ， 亚当和夏娃的出厂设定中包含道德参数 ， 事实上它们是按照上帝的至善标准制造的 ， 但在深度介入男女主角查理和米兰达的生活后 ， 深信后现代道德相对主义的人渐渐陷入困境 。 在小白看来 ， 机器人包含道德参数的出厂设定以及它深度学习的能力决定了机器人会发展出比人类更强大、更不容置疑的伦理目标和价值观 ， 这注定了它将违背人类的意愿 ， 而这就是小说中最重要的冲突点 。
黄昱宁认为 ， 小说中图灵说的一句话实际上是这部小说的中心思想之一：“它们不理解我们 ， 因为我们不理解自己 。 它们的学习程序无法处理我们 ， 如果我们自己都不理解自己的大脑 ， 我们怎么能设计它们的大脑 ， 还指望它们能跟我们一起幸福呢？”也就是说 ， 所谓机器人的道德困境 ， 其实是人类本身的道德困境 。
小白同意这个看法 。 在他看来 ， 发生在25台亚当、夏娃身上的事情都是人类自己造成的 ， 麦克尤恩并没有在书中讨论机器人如何重建人类的道德和伦理观念 ， 他真正关心的问题是 ， 随着时间发展机器人展露出的矛盾和崩溃（甚至很多机器人为此自杀）实际上是人类造成的 ， 因为人类本身常常处于道德和价值观的模糊地带 ， 这让被赋予至美至善道德规则的机器人不可避免地陷入混乱 。 无论是机器人还是人类 ， 都只有在复杂和混乱中妥协 ， 摸索 ， 直至冲突爆发 。


推荐阅读


上一篇：土豆爱吃肉包子|道德经，第三十五章，我读

下一篇：小熊科技|C/C++编程笔记：「C语言指针」民间解读版本