长时运行智能体与持久化执行

📌 One-Sentence Summary
本文探讨持久化执行模式如何通过保存状态、处理故障并从中断中平稳恢复,帮助长时运行的 AI 智能体在较长时间内可靠地管理复杂的多步骤流程。
📝 Summary
本文探讨持久化执行这一关键模式,说明它如何帮助长时运行的 AI 智能体应对可能持续数天或数周、且难以预测的多步骤流程。持久化执行是一种编程模型:运行时会记录每次与外部世界的交互,使智能体在发生故障时能够从最近记录的步骤开始重放并恢复。文章以库存补货智能体为例,详细介绍由目标、工具、状态和模型构成的智能体循环,并解释进程崩溃、API 故障和并发问题等分布式系统故障如何中断长时间运行的工作流。文章将持久化执行与预写日志和事件溯源进行比较,并展示 Temporal 和 Cloudflare Workflows 如何通过活动、等待条件和重放机制实现这一模式。文章还区分了处理单个任务的流程工作流,以及在业务实体整个生命周期内管理 SKU 等对象的实体工作流,并将后者与 Erlang 的 Actor 模型进行类比。
💡 Main Points
持久化执行通过保存状态并从已记录的步骤开始重放,使长时运行的智能体能够从故障中恢复。
每次与外部世界的交互都会作为一个步骤记录下来,并保存其输入和输出。因此,发生崩溃或中断后,智能体可以从最近完成的步骤继续运行,确保持续数天的流程能够延续。
智能体循环由目标、工具、状态和模型构成;工具分为步骤(外部交互)和非步骤(本地状态操作)。
只有与外部世界的交互会经过持久化运行时;像「allowed」和「apply」这样用于处理内部逻辑的方法,会在每次重放时运行,以高效重建状态。
长时运行的智能体会遭遇进程崩溃、API 故障、并发冲突和外部环境变化等独特故障模式。
这些挑战需要在执行框架层显式处理。持久化执行提供活动日志、超时和等待条件等基本机制,帮助管理各种不确定性。
实体工作流在业务实体的整个生命周期内管理该实体,流程工作流则处理单项任务,二者与 Actor 模型的模式相似。
这种区分能够以可扩展的方式管理持久存在的实体(例如 SKU),并让它们在生命周期内创建和监管流程工作流(例如补货订单)。
💬 Key Quotes
持久化执行是一种编程模型:运行时会记录每个与外部世界交互的步骤所产生的结果。因此,发生故障时,程序会重新运行,跳过已完成的步骤,并根据记录重建程序状态。
持久化工作流会在一个业务实体(例如 SKU)的整个生命周期内代表该实体运行。它会维护实体的状态,并启动流程工作流。
需要注意的关键之处在于,整个智能体循环,也就是 run 方法,都标注了 @workflow.run。这使它成为一个工作流,也就是 Temporal 对持久化程序的称呼:发生故障后,Temporal 会重新运行该程序,并根据日志重建其状态。
每个 SKU 对应一个实体工作流,这就是 Erlang 所实现的 Actor 模型:每个实体对应一个进程,拥有一个地址和一个邮箱,并且一次处理一条消息。
📊 Article Meta
AI Screening: 90
Featured: Yes
Source: Martin Fowler
Author: Martin Fowler
Category: 软件编程
Language: 英文
Read Time: 26 min
Word Count: 6364
Tags:
编程与工程 , 分布式系统 , AI Agent , 长程智能体 , 股市投资
这篇文章分析得很透彻,收藏了!
内容翔实,正好需要,先收藏再看。
赞同,实践出真知。
刚好最近在找这方面的资料,太及时了。
实测过类似工具,作者说的基本属实。
这个比较实用,已转发给同事。
讲解得很细致,新手也能看懂。
讲解得很细致,新手也能看懂。
赞同,实践出真知。
路过
讲解得很细致,新手也能看懂。
支持作者,持续关注中。