本页说明如何用 TruLens 评估并跟踪基于 Llama-Index 构建的 LLM 应用。

TruLens 是什么？

TruLens 是一个开源包，为基于大语言模型（LLM）的应用提供 instrumentation 与评估工具。它包括相关性、情绪等反馈函数的评估，也包括成本与延迟在内的深入追踪。

当你迭代 LLM 应用的新版本时，可以按你设置的各项质量指标比较它们的表现。你还可以按记录粒度查看评估结果，并逐条浏览应用的元数据。

安装与配置

接入 TruLens 很简单，从 pypi 安装即可！

终端窗口

pip install trulens-eval

from trulens_eval import TruLlama

试一试！

llama_index_quickstart.ipynb

延伸阅读

• 用 LlamaIndex 与 TruLens 构建并评估 LLM 应用
• 更多示例
• trulens.org