2026年7月2日 周四晚上19:30,报名腾讯会议了解“如何构建自进化的动态知识库(Brain)”(限30人)
免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

LangGraph Runtime 是什么?一文讲清Runtime与Context的作用与用法!

发布日期:2026-07-01 18:47:42 浏览次数: 1511
作者:跟我学机器学习

微信搜一搜,关注“跟我学机器学习”

推荐语

本文深入解析LangGraph Runtime机制,帮你理清状态管理与运行环境分离的关键设计,提升AI Agent开发效率。

核心内容:
1. Runtime解决State臃肿与运行依赖混杂的核心问题
2. Runtime、State、Context三大组件的职责与协作关系
3. 节点如何访问运行时信息,实现高效上下文管理

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

本文深入讲解 LangGraph 中 Runtime 机制的设计与作用,重点分析其如何解决 State 臃肿与运行依赖混杂的问题。结合 LangGraph 执行流程与 RunnableConfig、Context、Runtime 三大核心组件,并通过代码示例演示节点如何访问运行时信息,帮助开发者理解短期记忆、外部存储与 Agent 上下文管理的最佳实践,是构建高可维护 AI Agent 与 RAG 系统的重要参考内容。

本文最佳排版阅读体验请电脑端访问:https://mlwithme.github.io/agent/chapter05/5c1cad54efa54c31/


在 LangGraph 中,节点执行时往往不仅需要业务数据(状态,State),还需要用户 ID、线程 ID、数据库连接、存储对象等运行环境信息。如果把这些内容都塞进 State,状态会很快变得臃肿,而且很多资源对象本身也不适合序列化或写入检查点。

因此,LangGraph 提供了 Runtime。它的作用不是替代 State,而是为节点提供统一的运行时入口,让图中的业务状态与系统资源保持分离。

1. Runtime 要解决什么问题

先看一个典型场景。一个节点可能需要下面两类信息:

  • 业务数据,例如用户输入、历史消息、检索结果。
  • 运行信息,例如 user_idthread_id、数据库连接、Store 对象。

这两类内容职责不同。如果全部混在 State 中,会带来两个问题:一是 State 不再纯粹,二是数据库连接这类资源很难安全地持久化。

Runtime 的意义就在于,把这些“运行依赖”从 State 中分离出来。

2. Runtime 和 State 有什么区别

两者最核心的区别是职责不同。

  • State 保存业务状态,也就是图在处理什么。
  • Runtime 提供运行环境,也就是节点依赖什么来完成处理。

换言之,State 负责数据流动,Runtime 负责环境注入。这样设计后,图的状态更清晰,节点也更容易维护。

3. LangGraph 中 Runtime 是如何工作的

在 LangGraph 中,调用 invoke() 时,框架会根据本次传入的 config 和 context,在节点执行阶段自动构造 Runtime 对象。

这里通常有三个角色:

  • State:保存输入、输出和中间业务结果。
  • Context:承载要注入 Runtime 的上下文,例如 user_id、数据库连接器。
  • RunnableConfig:承载本次调用配置,例如 thread_id

节点执行时,就可以同时读取这三类来源的信息。

4. 示例:节点如何访问 Runtime

下面这段代码演示了最基本的用法:节点除了读取输入 state 之外,还从 config 中读取 thread_id,并从 runtime.context 中读取 user_id 和数据库名称。

 1 from dataclasses import dataclass
 2 from langchain_core.runnables import RunnableConfig
 3 from langgraph.graph import START, StateGraph
 4 from langgraph.runtime import Runtime
 5 from typing_extensions import TypedDict
 6
 7 class State(TypedDict):
 8      input: str
 9      results: str
10     
11 class DBConnector:
12      def __init__(self, db_name: str = None):
13          self.db_name = db_name
14
15 @dataclass
16 class Context:
17      user_id: str = "default"
18      db_connector: DBConnector = None
19
20 def my_node(state: State, config: RunnableConfig, runtime: Runtime):
21      thread_id = config["configurable"]["thread_id"]
22      user_id = runtime.context.user_id
23      db_name = runtime.context.db_connector.db_name
24      return {
25          "results": (
26              f"Hello, {state['input']}, I am {user_id} in thread {thread_id}, " 
27              f"db_name = {db_name} !")}
28
29 if __name__ == "__main__":
30      builder = StateGraph(State, context_schema=Context)
31      builder.add_node("my_node", my_node)
32      builder.add_edge(START, "my_node")
33      graph = builder.compile()
34      config = RunnableConfig(
35          configurable={"thread_id""fd1bd9f0-5d3c-487a-938e-b14513efa48k"})
36      context = Context(
37          user_id="demo_user",
38          db_connector=DBConnector(db_name="my_database.db"))
39      result = graph.invoke({"input""Everyone"}, config=config, context=context)
40      print(result)

# {'input': 'Everyone', 'results': 'Hello, Everyone, I am demo_user in thread fd1bd9f0-5d3c-487a-938e-b14513efa48k, db_name = my_database.db !'}

这段代码说明了三件事:

  • state 保存的是业务输入输出。
  • config 适合放线程级配置。
  • runtime.context 适合放用户信息和外部资源。

最终,节点可以在不污染 State 的前提下,拿到完整的运行环境。

5. 实际工程里 Runtime 常放什么

在真实项目中,Runtime 通常会承载下面几类内容:

  • thread_id:用于短期记忆和会话隔离。
  • user_id:用于长期记忆的用户级隔离。
  • Store、数据库连接:用于访问长期记忆或外部系统。
  • RunnableConfig 中的其他参数:用于传递本次调用的控制配置。

例如在 Mini ChatGPT 助手这类工程中,PostgresSaver 常用于短期检查点,PostgresStore 常用于长期记忆,而它们都更适合通过 Runtime 进入节点。

6. 小结

Runtime 的本质,是 LangGraph 为“运行环境”提供的一层正式抽象。

它把业务状态和系统资源分开管理,让 State 保持纯净,也让节点能够清晰地访问用户上下文、线程配置和外部存储对象。因此,Runtime 可以看作 LangGraph 中连接业务逻辑与底层资源的桥梁。



点击文末左侧「阅读原文」可在线阅读,更多内容尽在 https://mlwithme.github.io

往期精选推荐

[1] Agent的记忆机制与管理之长期记忆与短期记忆!

[2] 从 2-Step RAG 到 Agentic RAG:检索范式的升级之路!

[3] LangChain 短期记忆持久化:Agent 会话状态保存与使用!

[4] 为什么 AI Agent 都离不开 Function Calling ?

[5] 如何从零动手实现一个MiniChatGPT?附超详细注释学习源码!

[6] 彻底搞懂 KV Cache 大模型推理加速的核心

[7] 基于两阶段索引的 RAG Agent 搭建!

点击下图购买作者编著新书


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅