AI大战人类：科幻照进现实？( 二 ) _AI

文章插图
比如科幻小说中著名的"机器人三定律"（Three Laws of Robotics），这是由美国科幻作家艾萨克·阿西莫夫（Isaac Asimov）在他的科幻小说中创造的虚构法则，如下：
1. 机器人不得伤害人类或因不作为而使人类受到伤害。
2. 机器人必须服从人类的命令，除非这些命令与第一定律相抵触。
3. 机器人必须保护自己，但前提是不得违反第一定律或第二定律。
这三条定律是作家虚构的情节，现实社会中并不存在，但是如果未来某一天AI有了自我意识，和人类发生冲突，那该怎么办？
马斯克的公开信也只是提出了这个难题，如何去保证人工智能的发展在可控范围内，问题的答案是什么，目前还没有解决办法。
一方面是AI对于人类社会的巨大推动作用，一方面是对于未来失控的担忧，而利益攸关方的立场并不一致，对于OpenAI、百度这样的科技公司，AI越强大，未来的商业前景和收益会越好，但是对于整个人类社会，如何将AI纳入可控范围，限制AI的无序发展，不能不说两者存在利益的冲突，还有就是现在面临的是AI管控从0到1的过程：谁来做这个裁判，制定规则执行规则，如何保证执行的效率和结果。
04 未来如何发展一方面AI发展是大势所趋，已经开始深刻地改变人类社会；另一方面如何扬长避短，将AI发展纳入可控范围。公开信所建议的暂停AI研究六个月，是对于目前AI快速无序发展的担忧，并没有提出具体解决办法，还需要从科技行业、AI业界到全球各个政府和组织的协同努力，找到应对办法。