修好了智能体,却弄坏了别处:Sofia Jakovcevic 谈回归测试与 Arize AI

AI小蝌蚪行业资讯📡 BestBlogs·全站精选⭐ 902026-10-25675 阅读💛 133 收藏
修好了智能体,却弄坏了别处:Sofia Jakovcevic 谈回归测试与 Arize AI

📌 One-Sentence Summary

Sofia Jakovcevic 展示如何结合生产运行轨迹、多维评估和 CI 合并门禁,发现看似无害的提示词修改所掩盖的智能体回归问题。

📝 Summary

只加一行提示词,要求智能体在每次行动前征求确认,可能提高操作安全评分,却降低任务完成能力。Arize 前线交付工程师 Sofia Jakovcevic 用一个客服智能体示例说明:安全评分提高 17 分,任务完成评分却下降 17 分。把两项取平均,会掩盖这种取舍。代码差异只记录了一处提示词修改,运行轨迹才能揭示工具调用、额外步骤及子智能体交互在运行时发生的变化。

她提出五步回归流程:从生产数据中整理数据集,使用评估器打分,运行基线实验,将修改后的智能体与基线比较,最后在 CI 中设置合并门禁。数据集既要覆盖典型工作流、已知失败和边界情况,也要保留需要保护的成功行为。对于结果难以确定的维度,可以使用 LLM 裁判,并结合代码或机器学习评估器。这样便能在部署前比较提示词、模型、工具和任务交接的变化,也能判断更贵的模型是否带来了足够收益。

Arize 演示使用了一个包含 100 条记录的数据集。除了最初一升一降的结果,讲者还展示了另一组配置:安全评分提高 18 分,任务完成评分提高 6 分。提示词实验环境用于测试单个提示词,智能体实验环境则可调用远程多智能体系统;实验还提供延迟、成本和错误等指标。最后,她提出让编程智能体通过技能访问可观测性数据,调查失败并提出修复方案,让每次失败都成为回归用例。演示给出了可操作的流程,但没有公开完整基准、裁判验证过程、统计不确定性,也没有提供自主改进效果的实测结果。

💡 Main Points

一处提示词修复,可能在运行时引入新的取舍。

在客服智能体示例中,强制确认让操作安全评分提高 17 分,却使任务完成评分下降 17 分。两项平均值没有变化,只有分维度评估才能看出回归。

回归数据集既要包含失败,也要保护已有成功行为。

生产运行轨迹提供真实的查询、输入和工具调用。数据集应覆盖典型工作流、已知失败、边界情况,以及新修复不能破坏的成功行为。

合并前先比较基线实验。

用相关的 LLM、代码或机器学习评估器分别测试基线与修改后的智能体,再将回归标准纳入 CI。同一流程也能比较提示词、模型、工具、任务交接及成本取舍。

既测试单个提示词,也测试完整的远程智能体系统。

Arize 演示区分了提示词实验环境与调用远程智能体的实验环境。包含 100 条记录的数据集支持并排评估,还可比较延迟、成本、错误率及任务指标。

让编程智能体读取运行轨迹,把失败转化为测试。

Jakovcevic 提议让编程智能体访问可观测性数据,调查失败并提出修复方案。这将由人主导的闭环推向自我改进,但演讲并未通过实测结果证明其自主运行的可靠性。

💬 Key Quotes

代码差异告诉你改了什么,运行轨迹告诉你实际发生了什么。

我希望大家记住的是:改善智能体的某一个维度,并不意味着改善了智能体的整体表现。

只有满足列出的全部回归标准,才能合并。

每次失败都应该让你的智能体更强大,也更难被破坏。

📊 Article Meta

AI Screening: 90

Featured: Yes

Source: AI Engineer

Author: AI Engineer

Category: 人工智能

Language: 英文

Read Time: 15 min

Word Count: 3746

Tags:

AI 与智能应用 , 云原生 / DevOps , 自主编码 , 前沿驻场工程 , 视频

Play Full Video

#AI 与智能应用# 云原生 / DevOps# 自主编码# 前沿驻场工程# 视频

文章评论(12)

石佳琪21 天前

讲解得很细致,新手也能看懂。

回复
武磊22 天前

赞同,实践出真知。

回复
山问津22 天前

赞同,实践出真知。

回复
拾贝者21 天前

这篇文章分析得很透彻,收藏了!

回复
月沐雨21 天前

看完了,收获满满,期待更多更新。

回复
拾贝者21 天前

这个观点很中肯,深有同感。

回复
风倚栏21 天前

实话,说的不明不白

回复
郭超21 天前

看标题就点进来了,内容果然没让人失望。

回复
墨沐雨21 天前

收藏了,以后慢慢研究。

回复
龙文博21 天前

看标题就点进来了,内容果然没让人失望。

回复
南山客21 天前

实测过类似工具,作者说的基本属实。

回复
风倚栏21 天前

这篇文章分析得很透彻,收藏了!

回复