我的回答是他们的立场是非科学的——什么是可检验的假设？什么会证伪这个假设？我们怎么知道我们何时进入危险区域？除了“你无法证明它不会发生！”之外 ， 这些问题基本上没有答案 。事实上 ， 这些浸信会的立场是如此不科学和 极端——一个关于数学和代码的阴谋论——并且已经在呼吁身体暴力 ， 以至于我会做一些我通常不会做的事情 ， 并质疑他们的动机 。
具体来说 ， 我认为有以下三点：
首先 ， 回想一下约翰·冯·诺伊曼回应罗伯特·奥本海默著名的关于他在制造核武器方面的作用——这有助于结束第二次世界大战并防止第三次世界大战——的回应是 ， “有些人承认有罪以声称自己的罪过 。” 一个人可以在不显得过于自负的情况下宣称自己工作的重要性是最引人注目的方式是什么？这解释了实际上正在构建和资助 AI 的浸信会的言行之间的不匹配——注意他们的行动 ， 而不是他们的话 。（杜鲁门在与奥本海默会面后更加严厉： “别再让那个爱哭鬼进来了 。” “Don’t let that crybaby in here again．”））
其次 ， 一些浸信会实际上是走私者 。有一整套“AI安全专家”、“AI伦理学家”、“AI风险研究员”的职业 。他们被付钱是注定要失败的 ， 他们的陈述应该得到适当的处理 。
第三 ， 加利福尼亚以数以千计的异教信仰Cults而闻名 ， 从 EST 到人民圣殿教 ， 从天堂之门到曼森家族 。这些团体中有许多（尽管不是全部）是无害的 ， 甚至可能为那些在其中找到归宿的异化者服务 。但有些确实非常危险 ， 众所周知 ， 邪教很难跨越最终导致暴力和死亡的界限 。
湾区内的每个人都清楚但湾区外可能并非如此的现实是 ， “AI 风险”已经发展成为一种异教 ， 它突然出现在全球媒体关注和公众对话的日光下 。这种异教不仅吸引了边缘人物 ， 还吸引了一些真正的行业专家和不少富有的捐助者——包括直到最近的Sam Bankman-Fried （FTX联合创始人） 。它发展出一整套异教行为和信仰 。
这种异教就是为什么有一组 AI 风险末日论者听起来如此极端的原因——并不是说他们实际上拥有使他们的极端主义合乎逻辑的秘密知识 ， 而是他们已经把自己鞭打到狂热中并且真的……极端极端 。
．．．．．．
不要误会我的意思 ， 异教很有趣 ， 他们的书面材料通常富有创意和引人入胜 ， 而且他们的成员在晚宴和电视上都很活跃 。但他们的极端信仰不应该决定法律和社会的未来——显然也不是未来 。
第二个广泛讨论的 AI 风险是 AI 会通过产生如此“有害”的输出来破坏我们的社会 ， 使用这种末日毁灭者的术语 ， 对人类造成深远的损害 ， 即使我们不是字面上的杀了 。
简短版本：如果杀人机器人没有抓住我们 ， 仇恨言论和错误信息就会 。
这是一个相对较新的末日担忧 ， 它从我上面描述的“AI 风险”运动中分支出来并在某种程度上接管了它 。事实上 ， 人工智能风险的术语最近从“人工智能安全”——担心人工智能会真正杀死我们的人使用的术语——变成了“人工智能对齐Alignment”——担心社会“危害”的人使用的术语 。最初的 AI 安全人士对这种转变感到沮丧 ， 尽管他们不知道如何将其放回原处——他们现在主张将实际 ， 该主题尚未被广泛采用但至少是清楚的 。
AI 社会风险声明的本质是它自己的术语“AI 对齐Alignment” 。对齐什么？ 人类价值观 。谁的人文价值观念？啊 ， 这就是事情变得棘手的地方 。
碰巧的是 ， 我曾在类似的情况下坐在前排——社交媒体“信任与安全”战争 。现在很明显 ， 社交媒体服务多年来一直承受着来自政府和活动家的巨大压力 ， 要求禁止、限制、审查和以其他方式压制范围广泛的内容 。对“仇恨言论”（及其数学对应物“算法偏见”）和“错误信息”的同样担忧正从社交媒体语境直接转移到“人工智能对齐”的新领域 。
推荐阅读
- AI如何一键创造短视频？硅谷又出新神器
- 郭德纲|郭德纲又成了预言家，笑果工厂知名脱口秀演员，因言论不当被停演！
- 不写代码、靠“玩”ChatGPT年入百万，提示工程师正变成硅谷新宠
- 超级马力欧兄弟|曝董明珠王自如热恋，对方比董明珠儿子还小5岁，罗永浩成预言家
- 董明珠|曝董明珠王自如热恋，对方比董明珠儿子还小5岁，罗永浩成预言家
- 李连杰|曝董明珠王自如热恋，对方比董明珠儿子还小5岁，罗永浩成预言家
- 硅谷禁书在线全文阅读 硅谷禁书
- 二十部金融经典电影 硅谷传奇 电影
- 鸟人安德森 克里斯 安德森
- 诺查丹玛斯预言东方圣人?预言9.11事件发生的17世纪法国预言家是谁？他还有哪儿些成功的预言?