江苏龙网

  1. 主页 > 生活百科 > >

硅谷预言家安德森万字长文：人工智能不会毁灭世界，反而可能拯救世界( 四 )

人工智能


对于 AI 风险 ， 如果建立监管壁垒 ， 这些 CEO 将赚更多的钱 ， 这些壁垒形成了一个由政府支持的 AI 供应商组成的卡特尔 ， 保护它们免受新创业公司和开源竞争的影响——“大而不倒”银行的软件版本 。
愤世嫉俗的人会认为 ， 一些明显的浸信会教徒也是走私者——特别是那些被他们的大学、智囊团、活动家团体和媒体机构付钱攻击 AI 的人 。如果你拿薪水或接受助学金来助长 AI 恐慌……你可能是走私者 。
走私者的问题在于他们会赢得他们想要的 。浸信会是天真的空想家 ， 走私者是愤世嫉俗的经营者 ， 所以像这样的改革运动的结果往往是走私者得到他们想要的东西——监管俘获、竞争隔离、卡特尔的形成——而浸信会则感到疑惑他们推动社会进步的动力在哪里出错了 。
我们刚刚经历了一个令人震惊的例子——2008 年全球金融危机后的银行业改革 。浸信会告诉我们 ， 我们需要新的法律法规来拆分“大到不能倒”的银行 ， 以防止此类危机再次发生 。因此 ， （美）国会通过了 2010 年的多德-弗兰克法案 ， 该法案标榜为满足浸信会的目标 ， 但实际上却被走私者——大银行所采用 。结果是 ， 2008 年“大到而能倒”的银行现在规模大得多 。
所以在实践中 ， 即使浸信会是真诚的——即使浸信会是正确的——他们也被操纵和贪污的私酒贩子用作掩护 ， 以使自己受益 。
这就是目前在推动 AI 监管方面正在发生的事情 。
然而 ， 仅仅确定行动者身份并质疑他们的动机是不够的 。我们应该考虑浸信会和走私者的论点 。
第一个也是最初的 AI 末日风险是 AI 将决定真正杀死人类 。
对我们自己创造的技术会兴起并摧毁我们的恐惧深深地融入了我们的文化中 。希腊人在普罗米修斯神话中表达了这种恐惧——普罗米修斯给人类带来了火的破坏力 ， 更普遍的是技术（“techne”） ， 为此普罗米修斯被众神判处永久折磨 。后来 ， 玛丽雪莱在她的小说《弗兰肯斯坦》或《现代普罗米修斯》 中为我们现代人提供了这个神话的版本 ， 我们在其中开发永生技术 ， 然后崛起并试图摧毁我们 。当然 ， 如果没有詹姆斯·卡梅隆的终结者电影中闪闪发光的红眼杀人机器人的静止图像 ， 任何关于 AI 恐慌的报纸报道都是不完整的 。
这个神话的假定进化目的是激励我们认真考虑新技术的潜在风险——毕竟 ， 火确实可以用来烧毁整个城市 。但正如火也是现代文明的基础 ， 在寒冷和充满敌意的世界中让我们保持温暖和安全一样 ， 这个神话忽略了大多数 - 全部？– 新技术 ， 在实践中激起了破坏性的情绪 ， 而不是理性的分析 。仅仅因为前现代人像这样吓坏了并不意味着我们必须这样做；我们可以改用理性 。
我的观点是 ， 人工智能将决定真正杀死人类的想法是一个严重的类别错误 。人工智能不是经过数十亿年的进化而准备参与适者生存之战的生物——就像动物和我们一样 。它是数学-代码-计算机 ， 由人建造 ， 由人拥有 ， 由人使用 ， 由人控制 。它会在某个时候发展出自己的思想并决定它有导致自己试图杀死人类的动机是一种迷信 。
简而言之 ， AI 不想 ， 它没有目标 ， 它不想杀死人类 ， 因为它没有生命 。人工智能是一台机器——不会比你的烤面包机更有生命地活跃起来 。
现在 ， 很明显 ， 人工智能会毁灭人类的真正信徒——浸信会——他们的可怕警告突然获得了大量的媒体报道 ， 其中一些人声称已经研究这个话题几十年了 ， 并说他们现在害怕自己的生活他们所学的思想 。其中一些真正的信徒甚至是该技术的实际创新者 。这些参与者主张对 AI 实施各种奇怪和极端的限制 ， 从禁止 AI 开发 ， 一直到对数据中心的军事空袭和核战争 。他们争辩说 ， 因为像我这样的人不能排除人工智能未来的灾难性后果 ， 我们必须采取预防措施为了防止潜在的生存风险 ， 可能需要大量的身体暴力和死亡的立场 。


推荐阅读


上一篇：Mac游戏看齐Win系统 苹果新工具可快速移植游戏

下一篇：苹果头显引全球围观，突破还是噱头?