有了ChatGPT,读书还有用吗?( 三 )


新时代的知识生产者
该往哪里走?
可能很多和我一样的社科研究者,都在使用ChatGPT的时候遇到过这个问题:问它解释一个概念,说得头头是道;然而问起来源,就是“一本正经地胡说八道”了,比如列举出一个作者从来没写过的书、从来没发表过的论文 。领域越是狭窄、专业,“胡说”的可能性越大 。

有了ChatGPT,读书还有用吗?

文章插图
退回到 AI 的原理,这种“创造”其实也是在海量的数据中,挖掘词句“有可能”的联系,但这些联系在现实中是不存在的,说白了只是“听起来很像” 。这种新现象,在当下被称为“幻视”(hallucination) 。对于知识生产者而言,如何活用人工智能去挖掘现有知识库中的模式和联系,但又对机器的“幻视”保持警惕,什么存在,什么存疑,是非常重要的技能 。
与AI“对话”,也会变成一个新的技能 。当下的AI对于大部分非技术人员而言(甚至技术人员),依然是一个神秘的“黑箱” 。如何从技术的底层或者中层入手,去更有效地与机器对话,理解和对抗“幻视”,需要知识生产者和技术从业人员的合作 。
而对于新知识、新视角、新材料的研究,各个领域独有的结构和诠释,在当下依然是十分关键的 。大语言模型和生成式AI的预测模式,依然是倾向单一、重复的,越是训练材料少的领域,能力就越是有限 。想要机器和人能力的结合,就必须从数据的生产根源上着手,去用准确的、多样的、公正的、新颖的数据训练AI模型,建立良性的人机互动模式 。
大语言模型和生成式AI的问世对研究人员带来的挑战,仅仅是一个开始 。与其探讨“取代”,不如在更加审慎的目光下,寻求磨合与发展的可能 。




推荐阅读