江苏龙网

  1. 主页 > 生活百科 > >

「AI教父」万字采访实录：AI航行的方向藏着巨大的冰山( 五 )

AI


A：是的，所以我们真的想要一个模型说，好吧，对某些人来说，我们不知道吗？这将是一个巨大的问题，我们目前还不知道如何处理 。目前我并不认为微软知道如何处理这个问题 。他们也不知道 。
这似乎是一个巨大的治理挑战 。谁来做这些决策？这是非常棘手的事情 。你可不希望某个大型盈利公司来决定什么是真实的 。但他们正在控制我们如何使用这些东西 。Google 目前非常小心，不要那样做 。Google 会做的是将你引向相关文件，这些文件中会有各种各样的观点 。
Q：那么他们还没有发布他们的聊天产品，至少在我们谈话的时候还没有，对吧？
A：是的，但我们已经看到，至少那些已经发布聊天产品的人觉得有些事情他们不希望用他们的声音说出来，所以他们会去干预它，以免说出冒犯人的话 。
是的，但这种方式你能做的事情是有限的 。总会有你想不到的事情，对吧？是的 。所以我认为 Google 在发布聊天机器人时会比微软更谨慎，并且它可能会附带很多警告，这只是一个聊天机器人，不要一定相信它所说的 。
在标签上小心，或者在干预方式上小心，以免做出糟糕的事情 。所有这些方面都要小心 。在如何将其作为产品呈现以及如何进行训练方面要小心 。是的 。并努力防止它说出不好的东西 。但是，谁来决定什么是坏事呢？有些坏事是相当明显的，但是很多最重要的事情并不是那么明显 。所以，目前这是一个很大的悬而未决的问题 。我认为微软发布 ChatGPT 是非常勇敢的 。

「AI教父」万字采访实录：AI航行的方向藏着巨大的冰山

文章插图
Q：你是否认为这是一个更大的社会问题，我们需要监管或大规模公共辩论来处理这些问题？
A：像我说的，我不知道答案，而且我不相信有人真的知道如何处理这些问题 。我们必须学会如何快速处理这些问题，因为这是一个当前的大问题 。但是，关于如何完成这件事，我不知道，但我怀疑，作为第一步，至少这些大型语言模型必须了解到，存在不同的观点，以及它所作出的补充是相对于一个观点的 。
Q：有些人担心，这可能会很快蔓延开来，我们可能无法为此做好准备 。这让你担忧吗？
A：确实有点 。直到不久前，我认为在我们拥有通用人工智能之前还需要 20 到 50 年的时间 。而现在我认为可能是 20 年或更短时间 。 有些人认为可能只有 5 年，那是荒谬的 。但现在我不会完全排除这种可能性，而几年前，我会说绝不会发生这种情况 。
Q：有人说 AI 可能对人类构成巨大危险，因为我们不知道一个比我们聪明得多的系统会做什么 。你是否也有这种担忧？
A：我确实有点担忧 。显然，我们需要做的是使这种技术与人类互补，让它帮助人们 。我认为这里的主要问题之一是我们所拥有的政治体系 。即使说美国、加拿大和一群国家表示，好的，我们将建立这些防护栏，那么你如何保证呢？
特别是对于像自主致命武器这样的事物，我们希望有类似日内瓦公约的东西，像化学武器一样 。人们认为这些武器是如此恶心，以至于他们不再使用它们，除非有充分理由 。但我认为，基本上他们不再使用这些武器 。人们希望为自主致命武器达成类似的协议，但我认为他们不太可能达成这样的协议 。
Q：这是这个问题最尖锐的版本，你可以笑它，也可以不回答，但是你认为 AI 消灭人类的几率是多少？我们能否对此给出一个数字？
A：这个几率介于 0% 和 100% 之间 。我认为这并非不可能 。就我所说，如果我们明智的话，我们会努力发展它，以免发生这种情况 。但是，令我担忧的是政治局势 。
确保每个人都明智行事是一个巨大的政治挑战 。这似乎是一个巨大的经济挑战，因为你可能会有很多个体追求正确的道路，然而，公司的利润动机可能不会像为他们工作的个体那样谨慎 。
也许吧，我只真正了解 Google，这是我唯一的工作公司 。他们一直是最谨慎的公司之一 。他们对 AI 非常谨慎，因为他们有一个提供你想要的答案的出色搜索引擎 。他们不想损害它 。而微软则不太关心这个问题 。如果搜索消失了，微软可能都不会注意到 。当没有人追赶他们的时候，Google 采取缓慢的策略是容易的 。
Google 一直处于领先地位 。Transformers 是在 Google 发明的，大型语言模型的早期版本也是在 Google 。
Q：是的，他们抓住了这个机会 。
A：他们更加保守，我认为这是正确的 。但现在他们感受到了压力 。所以他们正在开发一个名为「Bart」的系统，他们将发布该系统 。他们正在对它进行大量的测试，但我认为他们会比微软更谨慎 。


推荐阅读


上一篇：未来已来：AGI发展脉络与猜想

下一篇：自媒体必备的四款Al工具