我要投稿

用LangChain构建自写自评剧本模式：LLMChain和Sequential Chain的业务应用

发布日期：2024-07-21 10:36:56 浏览次数： 2650

在大模型（LLMs）的简单应用中，单独使用语言模型往往已经足够。然而，随着业务需求的复杂化，单一的LLM已经不能满足所有的需求。因此，需要将LLMs与Chat Models链接在一起，或者将它们与其他组件结合使用，以构建更复杂的应用程序。LangChain为这种“链式”应用程序提供了Chain接口，使得复杂场景的实现变得更加简单和高效。

本文将重点讲解LangChain中的Chain Class基类、LLMChain以及Sequential Chain的实际业务应用。下期将分享Router Chain和Transform Chain。

一、Chain Class 基类

LangChain通过定义一个通用的Chain基类，简化了创建结构化组件调用序列的过程。这个基类为开发者提供了一个灵活而强大的接口，使得链式应用程序的开发变得直观和高效。

类继承关系

Chain --> <name>Chain # Examples: LLMChain, MapReduceChain, RouterChain

# 定义一个名为Chain的基础类class Chain(Serializable, Runnable[Dict[str, Any], Dict[str, Any]], ABC):"""为创建结构化的组件调用序列的抽象基类。链应该用来编码对组件的一系列调用，如模型、文档检索器、其他链等，并为此序列提供一个简单的接口。Chain接口使创建应用程序变得容易，这些应用程序是：- 有状态的：给任何Chain添加Memory可以使它具有状态，- 可观察的：向Chain传递Callbacks来执行额外的功能，如记录，这在主要的组件调用序列之外，- 可组合的：Chain API足够灵活，可以轻松地将Chains与其他组件结合起来，包括其他Chains。链公开的主要方法是：- `__call__`：链是可以调用的。`__call__`方法是执行Chain的主要方式。它将输入作为一个字典接收，并返回一个字典输出。- `run`：一个方便的方法，它以args/kwargs的形式接收输入，并将输出作为字符串或对象返回。这种方法只能用于一部分链，不能像`__call__`那样返回丰富的输出。"""
# 调用链def invoke(self, input: Dict[str, Any], config: Optional[runnableConfig] = None) -> Dict[str, Any]:"""传统调用方法。"""return self(input, **(config or {}))
# 链的记忆，保存状态和变量memory: Optional[BaseMemory] = None"""可选的内存对象，默认为None。内存是一个在每个链的开始和结束时被调用的类。在开始时，内存加载变量并在链中传递它们。在结束时，它保存任何返回的变量。有许多不同类型的内存，请查看内存文档以获取完整的目录。"""
# 回调，可能用于链的某些操作或事件。callbacks: Callbacks = Field(default=None, exclude=True)"""可选的回调处理程序列表（或回调管理器）。默认为None。在对链的调用的生命周期中，从on_chain_start开始，到on_chain_end或on_chain_error结束，都会调用回调处理程序。每个自定义链可以选择调用额外的回调方法，详细信息请参见Callback文档。"""
# 是否详细输出模式verbose: bool = Field(default_factory=_get_verbosity)"""是否以详细模式运行。在详细模式下，一些中间日志将打印到控制台。默认值为`langchain.verbose`。"""
# 与链关联的标签tags: Optional[List[str]] = None"""与链关联的可选标签列表，默认为None。这些标签将与对这个链的每次调用关联起来，并作为参数传递给在`callbacks`中定义的处理程序。你可以使用这些来例如识别链的特定实例与其用例。"""
# 与链关联的元数据metadata: Optional[Dict[str, Any]] = None"""与链关联的可选元数据，默认为None。这些元数据将与对这个链的每次调用关联起来，并作为参数传递给在`callbacks`中定义的处理程序。你可以使用这些来例如识别链的特定实例与其用例。"""

Chain基类的主要功能

有状态的：通过添加Memory，可以在Chain中保存状态和变量，使其具有记忆功能。
可观察的：通过Callbacks，可以在主要的组件调用序列之外执行额外的功能，如记录和监控。
可组合的：Chain API足够灵活，可以将不同的Chain和组件轻松结合，构建复杂的应用。

二、LLMChain

LLMChain是LangChain中最简单且最常用的链，常用于其他复杂Chains和Agents的内部调用。它由PromptTemplate和语言模型（LLM或Chat Model）组成。通过直接传入（或memory提供）的key-value对，LLMChain可以规范化生成Prompt Template，并将生成的prompt传递给大模型，最终返回大模型的输出。

实际业务应用

在实际业务中，LLMChain常用于文本生成、问题回答等场景。例如，在客户服务应用中，可以使用LLMChain生成个性化的回复，提高用户体验。

# 例子：客户服务应用中的LLMChainfrom langchain.chains import LLMChainfrom langchain.prompts import PromptTemplatefrom langchain.llms import OpenAI
prompt_template = PromptTemplate(template="客户提问：{question}\n客服回复：", input_variables=["question"])llm_chain = LLMChain(prompt_template=prompt_template, llm=OpenAI())
response = llm_chain.run({"question": "你们的退款政策是什么？"})print(response)

三、Sequential Chain

Sequential Chain允许用户将多个链连接起来，并将它们组合成执行特定场景的流水线（Pipeline）。这对于需要多个步骤处理的复杂任务尤为适用。

1、SimpleSequentialChain

SimpleSequentialChain是最简单形式的顺序链，每个步骤都具有单一输入/输出，并且一个步骤的输出是下一个步骤的输入。

实际业务应用

使用SimpleSequentialChain实现戏剧摘要和评论（单输入/单输出）。

# 例子：使用SimpleSequentialChain生成戏剧摘要和评论def simple_seq_chain_test():"""使用SimpleSequentialChain结合多个LLMChain进行文本生成。"""# 初始化与OpenAI GPT服务的连接#llm = OpenAI(model_name=model, temperature=2, max_tokens=1000) #直接访问OpenAI的GPT服务template = """你是一位剧作家。根据戏剧的标题，你的任务是为该标题写一个简介。
标题：{title}剧作家：以下是对上述戏剧的简介："""
prompt_template = PromptTemplate(input_variables=["title"], template=template)synopsis_chain = LLMChain(llm=llm, prompt=prompt_template)
# 这是一个LLMChain，用于根据剧情简介撰写一篇戏剧评论。# llm = OpenAI(temperature=0.7, max_tokens=1000)template = """你是《纽约时报》的戏剧评论家。根据剧情简介，你的工作是为该剧撰写一篇评论。
剧情简介：{synopsis}
以下是来自《纽约时报》戏剧评论家对上述剧目的评论："""
prompt_template = PromptTemplate(input_variables=["synopsis"], template=template)review_chain = LLMChain(llm=llm, prompt=prompt_template)# 这是一个SimpleSequentialChain，按顺序运行这两个链overall_chain = SimpleSequentialChain(chains=[synopsis_chain, review_chain], verbose=True)#review = overall_chain.run("三体人不是无法战胜的")review = overall_chain.run("向阳而生的程序员")

2、SequentialChain

SequentialChain是更通用形式的顺序链，允许多个输入/输出。

实际业务应用

使用SequentialChain实现戏剧摘要和评论（多输入/多输出）。

# 例子：使用SequentialChain生成戏剧摘要和评论def seq_chain_test():"""使用SequentialChain进行基于不同输入变量的文本生成。"""template = """你是一位剧作家。根据戏剧的标题和设定的时代，你的任务是为该标题写一个简介。
标题：{title}时代：{era}剧作家：以下是对上述戏剧的简介："""
prompt_template = PromptTemplate(input_variables=["title", "era"], template=template)# output_keysynopsis_chain = LLMChain(llm=llm, prompt=prompt_template, output_key="synopsis", verbose=True)
# 这是一个LLMChain，用于根据剧情简介撰写一篇戏剧评论。
template = """你是《纽约时报》的戏剧评论家。根据该剧的剧情简介，你需要撰写一篇关于该剧的评论。
剧情简介：{synopsis}
来自《纽约时报》戏剧评论家对上述剧目的评价："""
prompt_template = PromptTemplate(input_variables=["synopsis"], template=template)review_chain = LLMChain(llm=llm, prompt=prompt_template, output_key="review", verbose=True)
m_overall_chain = SequentialChain(chains=[synopsis_chain, review_chain],input_variables=["era", "title"],# Here we return multiple variablesoutput_variables=["synopsis", "review"],verbose=True)m_overall_chain({"title":"程序员是无法击溃的", "era": "AI时代"})