江苏龙网

  1. 首页 > 资讯 > 科技 > >

智能机器人|在道德困境面前只有机器才会毫不犹疑( 二 )


她难以置信地看了我一眼：“谁说是人类的经验？”
必须承认 ， 米兰达抓住了重点：对机器人而言 ， 周遭的一切都只是信息而已 ， 生产的也不过是信息而已 。 至于这种信息是不是所谓“人类经验” ， 还是纯粹的文本信息 ， 真的重要吗？
这样看来 ， “机器人无法创造文学”的说法也是人类苦苦执着于自己区别于（或者说优越于）机器人的证据 ， 而这也被麦克尤恩无情摧毁了 。
紧接着 ， 机器人产生了更进一步的进化：他们产生了自我销毁的念头 。 查理得知 ， 温哥华一台“亚当”因为目睹了某些冲突 ， 决定销毁自己；利雅得两台“夏娃”（女性机器人）被囚禁 ， 相互拥抱着“死”去；而查理和亚当在街头偶遇了另一台“夏娃” ， 她表面看上去正常 ， 暗中却启动了某种“自杀”程序……
这些机器人为何要销毁自己？作为同类的亚当也无法解释清楚 。 但机器人萌生“自我销毁”的念头 ， 说明它们试图掌握自己的命运 ， 对自己的“生死”做出决断 ， 而不愿意由购买了它们的主人摆布 。
奇怪的是 ， 查理购买的这台亚当一直没有产生自我销毁的念头 。 究其原因 ， 可能是查理对他实在太好了——某次查理想要关掉亚当的电源 ， 亚当表示反对并捏碎了查理的手腕 ， 而查理也没说什么 。 亚当在相当程度上享受着自由 ， 也就不必以自我销毁的方式来反抗受人摆布的命运 。
好了 ， 机器人不仅在外表上与人类无异 ， 而且还懂得爱、能创作文学、有生死观念 。 现在 ， 问题就落到了人类这一边：人类与机器人的界限 ， 到底在哪里？
麦克尤恩给出的答案是：道德困境 。
查理从亚当那里得知 ， 米兰达曾经卷入一起强奸案 ， 米兰达谎称一名叫戈林的男子强奸了她 ， 并且成功让法官和陪审团判他入狱 。 在查理的追问下 ， 米兰达说出自己这么做的原因：米兰达的童年好友玛丽娅姆被戈林强奸 ， 但迫于种种原因 ， 玛丽娅姆不愿意说出这件事 ， 最终自杀；米兰达必须遵守对好友的承诺 ， 守住这个秘密 ， 但她决定以自己的方式让戈林受到法律的制裁 ， 于是 ， 她“引诱”了戈林并控告他强奸 ， 成功地完成了复仇 。
米兰达做得对还是不对？每个人类都有自己的看法 ， 但任何一个人类都会承认 ， 在这整个事件中存在诸多道德难题 ， 无论怎么选 ， 都会或多或少伤害一些人 ， 让当事人感到良心不安 。
这才是人类的独特之处：我们常常把自己陷入道德困境 ， 但无论如何 ， 我们必须做出决定 ， 并心甘情愿地接受由此导致的后果 ， 以及随之而来的煎熬与不安 。 道德困境并不意味着人类在道德上软弱 ， 相反 ， 是勇气与担当让人类不断做出一个又一个艰难的决定 ， 而非止步不前 。
但对于亚当来说 ， 并不存在这样所谓的“道德困境” 。 他对整个事件做出判断的依据 ， 唯有法律而已；没有道德不道德 ， 只有违法不违法 。 最后 ， 亚当决定把米兰达诬陷戈林的证据交给警方——尽管他说他“爱”米兰达 ， 尽管他知道这样做会让米兰达身陷囹圄 。
麦克尤恩笔下的机器人亚当 ， 模糊了人与机器人之间的诸多界限 ， 然而在道德困境面前 ， 还是被打回原形 ， 他无法为情感牺牲非此即彼、非黑即白的判断 。 而读者们在麦克尤恩的“引诱”下 ， 就快要把机器人亚当当成活生生的人 ， 就快要对他产生共情与理解了 ， 查理却举起愤怒的锤子 ， 狠狠击碎亚当的头盖骨 。
我相信 ， 查理并不是像主人那样随意地夺走一个奴隶或者一件商品的“生命” ， 而是在经历了道德抉择之后做出的决定 。 当初亚当介入他和米兰达的感情、捏碎他手腕的时候 ， 他都没有愤而夺走亚当的“生命” ， 但现在为了自己 ， 也为了米兰达 ， 他决定“杀死”机器人亚当 。 “杀死”一个外表和人类一模一样的机器人 ， 必然会受到心灵的折磨——何况这个机器人和他一起生活了很久 。 而查理甘愿承受“杀死”亚当的后果：情感折磨、糟糕的经济状况、他人的指责……


推荐阅读


上一篇：苹果手机|为什么苹果手机电池小、充电慢、信号差、价格贵，还有这么多用户？

下一篇：智能穿戴|拆解报告：BeHear Now助听颈挂蓝牙耳机