主题
如何比较实验结果
当你迭代 LLM 应用时(例如更换模型或提示词),你可能希望比较不同实验的结果。
LangSmith 支持比较视图,帮助你识别不同实验之间的关键差异、退化与改进。
打开比较视图
- 若要访问实验比较视图,请前往 Datasets & Experiments 页面。
- 选择一个数据集,这将打开 Experiments 标签页。
- 选择两个或更多实验,然后点击 Compare。


调整表格显示
你可以在比较视图右上角切换不同的显示选项。


过滤器
点击
图标,对比较视图应用过滤器以缩小范围、定位特定示例。常用的过滤器包括:
- 包含特定
input/output的示例。 - 状态为
success或error的运行。 latency超过 x 秒的运行。- 特定的
metadata、tag或feedback。
除了对整个实验视图应用过滤器外,你还可以对单个列应用过滤器。选择
图标(位于任意列的顶部),查看该列数据可用的过滤器。
列
点击
图标,在比较视图中显示或隐藏单个反馈键或指标。
表格视图
在比较视图右上角选择三个表格视图图标之一:
- Compact:显示每个示例的实验结果的预览。
- Full:显示每次运行的输入、输出和参考输出的完整文本。如果输出过长而无法在表格中完整显示,你可以点击 Expand 查看完整内容。
- Diff:显示每次运行在各实验输出之间的文本差异。此视图一次仅支持 2 个实验。详情请参阅查看并排差异。
显示类型
内置的实验视图有三种,涵盖多种显示类型:Default、YAML、JSON。
查看退化与改进
在比较视图中,红色高亮相对于源实验在任意反馈键上退化的运行,绿色高亮改进的运行。在每个反馈列的顶部,你可以看到有多少运行优于或劣于源实验。
点击每列顶部的退化或改进按钮,仅显示该实验中退化或改进的运行。


查看并排差异
比较两个实验时,对于 JSON 和 YAML 显示样式,你可以开启实验 diff 模式来比较实验输出。diff 模式会高亮输出之间的改动,对结构化输出的比较尤其有用。


更新源实验与指标
若要跨实验跟踪退化,你可以:
在比较视图顶部,将鼠标悬停在某个实验图标上,并从下拉菜单中选择 Set as source experiment。你也可以在该下拉菜单中添加或移除实验。默认情况下,第一个被选中的实验会被设为源实验。


在 Feedback 列中,你可以为每个反馈键配置是否得分越高越好。该偏好会被保存。默认情况下,假定得分越高越好。


展开详情面板
点击任意行,打开该示例在参与比较的各实验下的详情面板。
使用面板右上角的切换开关在两种模式之间切换:
Details:显示反馈键与得分、该示例的指标摘要,以及每个实验的输入、输出、参考输出和属性。


Traces:并排显示每个实验的追踪。


当比较的实验超过两个时,面板一次只显示两个实验。使用页眉切换要与之比较的实验。
使用实验元数据作为图表标签
你可以基于实验元数据配置图表的 x 轴标签。
从比较视图右上角的 Charts 下拉菜单中选择一个元数据键,以更改 x 轴标签。

