人工智能教父：也许还有希望限制AI的无序发展( 二 ) _人工智能

所以反向传播就是反向遍历网络，找出每个特征检测器，希望它更活跃一点，还是更不活跃一点。
主持人：这个技术在Imag.NET上表现出色。图像检测是大型语言模型的基础技术，最初你认为这是生物大脑最不可能做的事，结果这种技术在大型语言模型上的表现令人惊讶。所以，大型语言模型如今有什么惊奇之处，甚至改变了你对反向传播或机器学习的看法。
杰弗里·辛顿：像GPT-4这样的东西知道的比我们多得多，它们具有关于所有事物的常识性知识，它们知道的事物可能比一个人知道的多上千倍。然而它们只有一万亿个连接，人类有100万亿个连接，所以它们比我们更擅长将大量知识放入更少的连接中。
我认为这是因为反向传播比我们拥有的学习算法好得多，这是很可怕的。AI能够将更多的信息放入更少的连接中，一万亿连接比起人类是很少的。

文章插图
主持人：这些数字计算机比人类更擅长学习，你说我们应该感到恐惧。可以进一步说一下吗？
杰弗里·辛顿：计算机是数字化的，你可以在不同的硬件上运行相同模型的多个副本，它们可以做完全相同的事情，它们可以查看不同的数据，但模型是完全相同的。
假如有10000个副本，它们可以查看10000个不同的数据子集，当其中一个学到了任何东西时，其他计算机都可以知道。如果这10000个副本彼此之间进行了非常有效的沟通，它们就可以看到比单独个体看到的多10000倍数据。人类无法做到这一点，如果我学到了很多关于量子力学的东西，我想让你理解它，这是一个漫长而痛苦的过程，我不能把我的思想直接复制到你的大脑里，因为你的大脑和我的不完全一样。
主持人：所以，我们有可以更快学到更多东西的数字计算机，它们可以立即互相教导，一个房间里的人可以将他们头脑中的东西传输到别人的头脑中，为什么可怕呢？
杰弗里·辛顿：因为它们可以学到更多东西。以医生为例，想象一下，一个医生看了1000名患者，另一个医生看了1亿名患者，那么看了1亿名患者的医生会注意到只看过1000名患者的医生注意不到的趋势，因为只有看过足够多的病人才能发现趋势。第一个医生可能只看过一个患有罕见病的患者，而看过1亿名患者的医生已经看过很多这样的患者，所以他会看到一些规律，这些规律在少量的数据中是看不到的。这就是为什么我们永远看不到需要处理大量数据才能看到的结构。

文章插图
AI的恶意使用难以避免
主持人：我相信很多人和我一样有过类似的感觉：在和这些最新的聊天机器人互动时，脖子后面的头发会竖起，有一种奇怪的感觉。但当我感到不舒服时，我把笔记本电脑关掉就行了。
杰弗里·辛顿：是的，但是人工智能正在从我们这里学习，它们可以阅读所有小说，包括马基亚维利曾经写过的如何操纵别人。如果它们比我们更聪明，它们会非常擅长操纵我们。甚至我们可能都不会意识到发生了什么，就像一个两岁的孩子被问到想吃豌豆还是花椰菜，却没有意识到他不一定要选择其中一个一样，这样我们会很容易被操纵。所以，即使它们不能直接操纵杠杆，它们可以让我们去操纵杠杆。事实证明，如果你可以操纵人，你可以在不亲自去华盛顿的情况下侵占一栋建筑。
主持人：从某种意义上说，如果我们没有采取行动，光说不练就没有价值，所以我们应该怎么做呢？
杰弗里·辛顿：很明显，人类应该对此采取行动，这是必须要做的事情。我不知道有什么方法可以阻止人工智能取代我们。我不认为我们会停止发展它们，因为它们非常有用。我们需要的是某种方法，确保即使它们比我们聪明，也会做对我们有益的事情。但这在一个有恶意行为者的世界很难实现。所以，我在敲响警钟，我们必须重视这个问题。我认为人们聚在一起认真思考这个问题，看看是否有解决方案非常重要。目前还不清楚是否有解决方案。

文章插图
主持人：没有技术上的解决办法吗？为什么我们不能建立防护栏或降低它们的学习能力，或者限制它们的沟通方式？
杰弗里·辛顿：我们确实正在尝试各种防护措施，但假设人工智能真的变得非常聪明，会编程并具有执行这些程序的能力，它们肯定会比我们更聪明。想象一下，你两岁的孩子说：“我爸爸做了我不喜欢的事，所以我要为我爸爸可以做的事情制定一些规则。”你可能会想办法在这些规则下也可以完成你想做的事。