江苏龙网

  1. 主页 > 生活百科 > >

一文解析如何基于 LangChain 构建 LLM 应用程序( 二 )

LLM


LangChain 是提供了一组模块，能够构建完整的 LLM(Language Model)应用程序管道，并与各种数据加载器、向量存储和 LLM 提供程序等进行广泛的集成 。LangChain的主要核心组件可参考如下图所示：

一文解析如何基于 LangChain 构建 LLM 应用程序

文章插图
LangChain 关键组件
1.Model I/OLangChain 的核心是强大的语言模型(LLM)，使应用程序能够理解和生成类似人类的文本 。通过 LangChain，开发人员能够出色地完成各种与语言相关的任务 。无论是理解用户查询、生成响应 ， 还是执行复杂的语言任务，LangChain 的模型都是语言处理能力的支柱 。
Models 模块负责管理与语言模型的交互 。LangChain 支持一系列 LLM，包括 GPT-3、OpenAI 等 。开发者可以使用 Models 模块来管理 LLM 的配置，例如设置温度、top-p 等参数 。模型模块对于提高 LLM 的能力并使开发人员能够构建可生成创意和上下文相关内容的应用程序至关重要 。
from langchain.llms import OpenAIllm = OpenAI(model_name="text-davinci-003")# The LLM takes a prompt as an input and outputs a completionprompt = "When can I achieve financial freedom?"completion = llm(prompt)2.ChainsChains 模块在应用程序中负责链接不同的组件，开发人员可以利用 Chains 模块创建链式结构，将提示、模型和其他应用程序组件有机地连接在一起 。这种链式结构对于构建需要多个组件协同工作的复杂应用程序至关重要 。
通过 Chains 模块，开发人员可以灵活组合和配置不同的组件，形成一个完整的应用程序管道，实现高度定制化的功能和逻辑 。
chain = LLMChain(llm = llm,prompt = prompt)chain.run("ai")3.AgentsAgents 模块在应用程序中承担了管理应用程序与外界之间交互的重要角色 。通过使用 Agents 模块 ， 开发人员可以构建各种类型的应用程序，如个人助理、智能聊天机器人等 。这些应用程序可以基于语音或文本输入进行交互，并通过分析和理解输入数据来提供相应的响应和服务 。
Agents 模块为开发人员提供了一个灵活、可扩展的工具，使他们能够轻松构建具有交互功能的应用程序，为用户提供个性化、智能化的体验 。
class Agent:def __init__(self, config):self.config = configself.chain = Chain(config)self.proxy = Proxy(config)self.memory = Memory(config)self.callback = Callback(config)def parse_input(self, input):# 解析用户的输入和上下文信息...4.MemoryLangChain 的 Memory 模块承担了数据存储的管理任务 。通过使用 Memory 模块，开发人员可以轻松地存储和检索各种类型的数据，如文本、图像、音频等 。
Memory 模块提供了高度可扩展的存储机制 ， 可以适应不同规模和类型的数据存储需求 。开发人员可以根据应用程序的需要，灵活地组织和管理存储的数据，以满足应用程序的要求 。
conversation = ConversationChain(llm=llm, verbose=True)conversation.predict(input="I am the last one.")conversation.predict(input="he is first.")conversation.predict(input="She is third from the bottom")5.Retrieval以 Indexes 组件为例，Indexs 模块在应用程序中承担了数据索引的管理任务 。开发人员可以利用 Indexs 模块创建用于搜索和检索数据的索引结构 。Indexs 模块对于构建需要进行数据搜索和检索的应用程序至关重要 。
使用 Indexs 模块，开发人员可以根据应用程序的需求创建不同类型的索引，如文本索引、关键词索引等 。这些索引结构可以针对特定的数据属性或特征进行优化，以实现更快速和精确的数据搜索和检索 。开发人员可以根据数据的特点和应用程序的需求，灵活地配置和管理索引结构 。
retriever = db.as_retriever()qa = RetrievalQA.from_chain_type(llm=llm,chain_type="stuff",retriever=retriever,return_source_documents=True)query = "Forgive me for my unruly, indulgent love of freedom in this life?"result = qa({"query": query})print(result['result'])6.CalbacksLangChain 提供了一个回调系统，使的我们能够连接到 LLM 请求的不同阶段 。这个回调系统对于日志记录、监控、流传输和其他任务非常有用 。
通过使用这些回调函数，我们可以灵活地控制和管理 LLM 请求的各个阶段 。同时 ， 还可以根据应用程序的需求，自定义回调函数的行为，以实现特定的功能和逻辑 。
class BaseCallbackHandler:"""Base callback handler that can be used to handle callbacks from langchain."""def on_llm_start(self, serialized: Dict[str, Any], prompts: List[str], **kwargs: Any) -> Any:"""Run when LLM starts running."""def on_chat_model_start(self, serialized: Dict[str, Any], messages: List[List[BaseMessage]], **kwargs: Any) -> Any:"""Run when Chat Model starts running."""def on_llm_new_token(self, token: str, **kwargs: Any) -> Any:"""Run on new LLM token. Only available when streaming is enabled."""


推荐阅读


上一篇：什么是网络中的路由器？核心功能解释

下一篇：Rust中的数据可视化指南