概述 - 多链串联

多链串联（Multiple Chains）是LLM应用开发中的一种高级技术，它通过将多个LLM调用（Chain）按特定顺序连接起来，构建更复杂的处理流程。这种模式类似于编程中的管道（pipeline）概念，每个Chain处理特定的子任务，并将输出传递给下一个Chain作为输入。

关键特点

  1. 模块化设计：将复杂任务分解为多个独立的处理步骤
  2. 顺序执行：前一个Chain的输出自动成为下一个Chain的输入
  3. 灵活组合：可以根据需求自由搭配不同类型的Chain
  4. 状态传递：上下文信息在整个链条中流动

典型应用场景

  1. 多阶段文本处理：如先进行摘要生成，再进行情感分析
  2. 问答系统：先检索相关文档，再基于文档生成答案
  3. 内容审核：先检测敏感内容，再决定是否进行后续处理
  4. 数据分析：先提取结构化数据，再进行统计分析

实现方式

在LangChain框架中，可以通过SequentialChain实现多链串联。

高级用法

  1. 条件分支：根据中间结果决定后续执行路径
  2. 并行处理：某些步骤可以并行执行再合并结果
  3. 循环结构：对某些步骤进行迭代直到满足条件
  4. 错误处理：设置备用Chain处理异常情况

最佳实践

  1. 为每个Chain设计清晰的输入输出规范
  2. 限制单个Chain的复杂度，保持可维护性
  3. 添加适当的中间结果验证机制
  4. 考虑添加监控和日志记录功能
  5. 对长链条考虑添加缓存机制

性能考量

  1. 串联多个Chain会增加总体延迟
  2. 可能需要管理更多的token消耗
  3. 错误会沿着链条传播，需要妥善处理
  4. 某些场景下可能需要考虑异步执行

Runnable接口

Runnables提供了一种简单灵活的方式来组合多个处理链（Chains）。通过Runnable接口，开发者可以轻松地将多个处理步骤串联起来，构建复杂的处理流程。

具体来说，Runnables的链式组合有以下特点：

  1. 简单连接：可以使用pipe()方法将多个Runnable实例连接起来，形成处理管道
  2. 类型安全：Runnables会自动检查输入输出类型是否匹配
  3. 灵活组合：支持多种组合方式（顺序执行、并行执行、条件分支、循环处理）
  4. 调试方便：可以在链中的任意环节插入日志或检查点

代码示例

from operator import itemgetter

from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

prompt1 = ChatPromptTemplate.from_template("what is the city {person} is from?")
prompt2 = ChatPromptTemplate.from_template(
    "what country is the city {city} in? respond in {language}"
)

model = ChatOpenAI(
    model="gpt-3.5-turbo",
)

chain1 = prompt1 | model | StrOutputParser()

chain2 = (
    {"city": chain1, "language": itemgetter("language")}
    | prompt2
    | model
    | StrOutputParser()
)

message = chain2.invoke({"person": "obama", "language": "spanish"})
print(f"message: {message}")

运行结果

message: Chicago, Illinois, se encuentra en los Estados Unidos.