江苏龙网

  1. 首页 > 生活 > >

如果人工智能发展到足够高级，怎样保证让其无条件对主人忠诚

第一, 现有的传统人工智能是无法发展出科幻作品里的具备人类情感一般的人工智能的。第二, 如果人工智能真的能做到和人一样拥有情感，甚至高于人类智慧，如果意识和智慧是一种神经元在混沌现象下的涌现，说实话，无法限制。科幻领域有不少有趣相关的假设，比如著名的阿西莫夫的Three Laws of Robotics。而在山本弘的アイの物語中有深刻的讨论，智能在设计上赋予了不同的本能，比如: 基本的生存，为人类服务, 抛弃性欲。从本能动机上就为人类服务的机器人任何时候的倾向都是为人类服务，所以也就没有背叛一说，当然极端的为人类服务本能也可能带来更多的悲剧。当然现实的智能研究领域也有专门针对技术奇点的到来带来的可能存在的智能失控问题的研究, 如: Friendly artificial intelligence
■网友
if (command.sender == boss) { command.execute();}else { executeHighLevelAI();}
■网友
可以这么说，人类是无法复制出一个与人类一模一样思考能力的事物，某种程度上人类自己都无法探究清楚自身的思考本源，所以在人工智能上只可能是一条一条程序的整合。若人工智能是这样的，那么总会有漏洞。若人工智能是生物科技的产物，那么某种程度上能理解成为一个新的生命呢？那么运用到的制约它的只能是本能了。才疏学浅，请多包涵。
■网友
我认为不能。这个问题的关键在于一切算法都是基于逻辑的，而动物情感是非逻辑性的。人类学家在解析情感表现的理论基础上出现了很多支路，但不能忽略的是，神奇的大自然在动物情感上设置了一种有效激励机制——多巴胺。而这种激励机制，最原始的功能是生命延续的动力。也就是说，高等动物情感的基础功能是围绕生存和繁衍展开的，而机器不具备这种自然需求。如何能基于算法构建一种激励机制对人工智能主体进行有效激励但又独立于其主体？这本就是个伪命题吧。
■网友
永远不能！！！！！!!!!!!!!!!!!!!!!！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！！


    推荐阅读


    上一篇：通信系统里使用RTOS的多吗

    下一篇：有人知道华为的SPO部门咋样吗我是做Java的，据说SPO部门是华为用Java最多的地方