有了ChatGPT,读书还有用吗?( 三 )
新时代的知识生产者
该往哪里走?
可能很多和我一样的社科研究者,都在使用ChatGPT的时候遇到过这个问题:问它解释一个概念,说得头头是道;然而问起来源,就是“一本正经地胡说八道”了,比如列举出一个作者从来没写过的书、从来没发表过的论文 。领域越是狭窄、专业,“胡说”的可能性越大 。

文章插图
退回到 AI 的原理,这种“创造”其实也是在海量的数据中,挖掘词句“有可能”的联系,但这些联系在现实中是不存在的,说白了只是“听起来很像” 。这种新现象,在当下被称为“幻视”(hallucination) 。对于知识生产者而言,如何活用人工智能去挖掘现有知识库中的模式和联系,但又对机器的“幻视”保持警惕,什么存在,什么存疑,是非常重要的技能 。
与AI“对话”,也会变成一个新的技能 。当下的AI对于大部分非技术人员而言(甚至技术人员),依然是一个神秘的“黑箱” 。如何从技术的底层或者中层入手,去更有效地与机器对话,理解和对抗“幻视”,需要知识生产者和技术从业人员的合作 。
而对于新知识、新视角、新材料的研究,各个领域独有的结构和诠释,在当下依然是十分关键的 。大语言模型和生成式AI的预测模式,依然是倾向单一、重复的,越是训练材料少的领域,能力就越是有限 。想要机器和人能力的结合,就必须从数据的生产根源上着手,去用准确的、多样的、公正的、新颖的数据训练AI模型,建立良性的人机互动模式 。
大语言模型和生成式AI的问世对研究人员带来的挑战,仅仅是一个开始 。与其探讨“取代”,不如在更加审慎的目光下,寻求磨合与发展的可能 。
推荐阅读
- qq热聊怎么没有了 QQ热聊怎么没有了
- 才播3集收视破1.3,让我熬夜狂追,2023年的都市剧终于有了天花板
- 程序员如何在ChatGPT世界中生存?
- 王小川谈ChatGPT:程序员是自己的“掘墓人”
- 定制自己的ChatGPT:免费用户也能使用“自定义”功能了!
- ChatGPT引领教育环境的创新,大学生赶紧学会利用
- OpenAI遭遇滑铁卢,ChatGPT正在走向失控的原因是什么?
- 国内ChatGPT软件团灭?上百款APP下架调整,算是意料之中
- 中科院:大模型一被夸智商就爆表!ChatGPT情商98分秒杀人类,Hinton预言成真?
- 为什么很多人都在吹ChatGPT改变世界?一文全面了解