人工智能教父：也许还有希望限制AI的无序发展 _人工智能

文章插图
停止发展AI也许是一个理性的做法，但不可能发生。
整理|部梦凡
5月1日，有报道称，“人工智能教父”、谷歌副总裁杰弗里·辛顿（Geoffrey Hinton）离开谷歌。他曾表示，担心类似ChatGPT的AI聊天机器人(12.570, -0.53, -4.05%)会带来严重危害。
他认为AI一旦在人类灌输的目的中生成了自我动机，那么以它的成长速度，人类只会沦为硅基智慧演化的一个过渡阶段。人工智能会取代人类，它有能力这么做，在当下的竞争环境下也没有什么办法限制它，因此这只是一个时间问题。
几天后，在麻省理工技术评论（MIT Technology Review）半公开分享会上，Hinton讲述了他对AI的恐惧和担忧。新一代的大型语言模型，尤其是GPT-4，让他意识到机器正朝着比他想象中聪明得多的方向发展，他害怕结果会变得难以控制。Hinton提到科技巨头们正在陷入一场可能无法停止的竞争。公司竞争越是激烈，AI发展的速度越快。这令他十分担忧。
Hinton认为我们也许还有希望限制住AI的无序发展，他想让更多人了解人类所处的历史位置和当下的艰难处境，并期望他的呼吁能带来一些改变。
Hinton阐述的核心观点如下：
1．反向传播比我们拥有的学习算法好得多，这是很可怕的。
2．如果AI比我们更聪明，它们会非常擅长操纵我们。即使它们不能直接操纵杠杆，它们可以让我们去操纵杠杆。
3．我们需要的是某种方法，确保即使AI比我们聪明，也会做对我们有益的事情。
4．如果你给予某个东西创造子目标的能力以实现其他目标，那它可能会很快地意识到获得更多控制权是一个很好的子目标，因为它有助于实现其他目标。
5．人类只是智慧演变过程中的一个短暂阶段，这是相当可能的。
6．停止发展AI也许是一个理性的做法，但不可能发生。我们应该合作，试图阻止AI的无序发展。

文章插图
以下为访谈整理（有删减）：

文章插图
AI可能比人类更善于学习
杰弗里·辛顿：最近我对大脑和我们正在开发的数字智能之间的关系产生了很多新的看法。过去，我认为我们正在开发的计算机模型没有大脑好，我们通过了解改进计算机模型所需的内容来更深入地了解大脑。但在过去的几个月里，我完全改变了看法。计算机模型可能使用反向传播的方式运作，而大脑并非如此。
主持人：请解释一下反向传播吧。
杰弗里·辛顿：我简单解释一下反向传播的工作原理。
如果你想检测图像中是否有鸟类，假设它是100像素×100像素的图像，也就是10000个像素，每个像素有3个通道，RGB（红绿蓝），共有30000个数字。如何将这30000个数字转换为是否存在鸟类的结果，有一个方法。特征检测器能检测出图像中非常简单的特征，比如边缘。特征检测器会对一列有很大正权重的像素和一列有很大负权重的像素有反应，如果两列都很亮，它就不会启动；如果两列都很暗，它也不会启动；但如果一列很亮，而相邻的另一列很暗，它就会有反应，这就是一个边缘检测器。我们可以想象有很多这样的检测器在图像的不同方向和不同尺度上检测边缘，我们需要检测相当多的数量。
比如有一个特征检测器可以检测到两个以锐角连接在一起的边缘。它对两个边缘都有很大的正权重，如果这两个边缘同时出现，它就会有反应，这将检测到可能是鸟嘴的东西；还可能有一个特征检测器检测到一圈边缘，那可能是鸟的眼睛；第三层可能有一个特征检测器检测潜在的鸟嘴和潜在的眼睛，并将它们连接起来，这可能是鸟的头。继续这样连接，最终可以检测出一只鸟。
然而，手动建立所有连接将非常困难，决定应该连接什么，权重是多少，尤其麻烦。你肯定希望这些中间层不仅可以检测鸟类，还可以检测各种其他事物。所以这几乎不可能手动实现。
反向传播的工作方式是从随机权重开始，放入一张鸟的图片，输出是0.5就表示是鸟。接下来，你需要改变网络中的每个权重，做到0.501表示是鸟，0.499表示不是鸟。你可以改变权重的方向，使之更可能把鸟判断为鸟，而不是把非鸟说成鸟。
反向传播实际上是消除你想要的（概率1表示是鸟）和现在得到的（0.5表示是鸟）之间的差距。如何消除这个差距，并将其传回网络，以便计算网络中的每个特征检测器，更活跃还是更不活跃。计算出来后，你可以增加权重使特征检测器更活跃，也可以加入一些负权重到特征检测器。