江苏龙网

  1. 主页 > 生活百科 > >

人工智能的黎明：从信息动力学的角度看ChatGPT( 五 )

小知识


也许有人会觉得这样的前景太危险，如果AI超出了人类的智力，我们科研工作者是不是也都要失业？但即便真的失业，在科研方面我还是会觉得期待而不是畏惧 。设想如果有人给牛顿一部时光机，他可以按下快进键学到此后三百年的现代科学，他应该也会觉得充满期待和兴奋，而不是遗憾做出量子力学和相对论的不是自己吧 。
潜在的危机
当然，AI来得如此快，必然意味着对于社会的巨大冲击 。未来可能是阳光普照，也可能是乱纪元 。已经有公开信呼吁要对巨型人工智能模型的发展按下暂停键，暂停六个月来思考人类如何掌控AI [10] 。在我看来，这种担忧有充分的理由，但是暂停已经不可能 。大模型能力的涌现并非通过什么独门秘技实现，OpenAI就算关门，别人也会很快做出相似的模型 。面对可能的危机，人类要做的不是躲避AI，而是更快地熟悉它，明白怎么运用它的巨大力量 。人类需要思考整个社会如何适应AI时代，搞好社会分配机制，在AI和重要的社会功能之间建立安全阀 。我们今天无法为所有的问题做好准备，但是我们需要尽早在整个社会层面开始充分的讨论 。我相信，AI带来的问题，最终也会由AI来解决，就好像工业革命带来的社会问题，不可能通过消除工业来解决，而只能通过合理运用工业带来的财富来解决 。当AI对于人类心理和人类社会的理解足够好，我们也可以让AI来帮助我们模拟未来社会可能出现的问题，实验可能的应对方案 。
这方面涉及到的问题会很多，本文只想谈其中的一点 。AI和人类很大的区别，是AI的“大脑”相对于人类的大脑来说是可以透明的 。这并不是说我们理解AI的计算过程——AI模型的可解释性本身是一个很难的研究课题——而是说在AI执行一个多步骤的任务时，它用语言来“思考”的过程（即上文所说的运用系统2的过程）是可以记录下来为人所知的 。相比之下，人类的心理活动天然对他人保密 。当然，AI的思考和执行过程很有可能被人为加密，只为它的主人知晓 。我认为，未来在保证AI安全方面一个重要的原则，就是强大到某一程度的AI要保持透明，其“思考过程”可检查可监管，而不能变成少数人控制的黑箱 。在实践中，如何确保这样的透明原则，又能保持私有数据的安全性，是技术上的重要课题 。
结语
我们这一代人一直都有这种认知，即我们身处在一个前所未有的时代中，但直到今天我们才真正来到这个时代的黎明 。未来存在着巨大的不确定性，但我愿意相信，AI难以捉摸，但不怀恶意 。
作者简介：
祁晓亮，美国斯坦福大学物理系教授，主要研究方向为量子信息和量子引力 。
参考文献
[1] 维特根斯坦《逻辑哲学论》5.6
[2] https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web
[3]https://mathstodon.xyz/@tao/109971374075988443
[4] 丹尼尔· 卡尼曼，《思考，快与慢》
[5] OpenAI, “GPT-4 Technical Report”, arXiv preprint arXiv:2303.08774 (2023)
[6] Bubeck, Sébastien, et al. "Sparks of artificial general intelligence: Early experiments with gpt-4." arXiv preprint arXiv:2303.12712 (2023).
[7] Shinn, Noah, Beck Labash, and Ashwin Gopinath. "Reflexion: an autonomous agent with dynamic memory and self-reflection." arXiv preprint arXiv:2303.11366 (2023).
[8] Park, Joon Sung, et al. "Generative Agents: Interactive Simulacra of Human Behavior." arXiv preprint arXiv:2304.03442 (2023).
[9] https://autogpt.NET/
[10] https://futureoflife.org/open-letter/pause-giant-ai-experiments/
墨子是我国古代著名的思想家、科学家，其思想和成就是我国早期科学萌芽的体现 。墨子沙龙的建立，旨在传承、发扬科学传统，倡导、弘扬科学精神，提升公民科学素养，建设崇尚科学的社会氛围 。
墨子沙龙面向热爱科学、有探索精神和好奇心的普通公众，通过面对面的公众活动和多样化的新媒体平台，希望让大家了解到当下全球最尖端的科学进展、最先进的科学思想，探寻科学之秘，感受科学之美 。
墨子沙龙由中国科学技术大学上海研究院及浦东新区南七量子科技交流中心主办，受到中国科大新创校友基金会、中国科学技术大学教育基金会、浦东新区科学技术协会、中国科学技术协会及浦东新区科技和经济委员会等支持 。




推荐阅读


上一篇：出新！彭博推出金融版ChatGPT！AI的火烧终于到华尔街了？

下一篇：这可能是关于昆仑万维天工模型，最详尽的一次评测了