Graphsignal 为 AI 智能体与 LLM 应用提供可观测性，帮助开发者确认 AI 应用按预期运行、并让用户获得最佳体验。

Graphsignal 会自动追踪并监控 LlamaIndex。轨迹与指标提供了查询、检索与索引操作的执行细节。这些洞察包括提示词、补全内容、嵌入统计、检索到的节点、参数、延迟与异常。

当使用 OpenAI API 时，Graphsignal 还会提供更多洞察，例如按部署、模型或任意上下文统计的 token 数与成本。

安装与配置

接入 Graphsignal tracer 很简单，安装并配置即可：

终端窗口

pip install graphsignal

import graphsignal

# Provide an API key directly or via GRAPHSIGNAL_API_KEY environment variable
graphsignal.configure(
    api_key="my-api-key", deployment="my-llama-index-app-prod"
)

可以在这里获取 API key。

更多信息见快速上手指南、集成指南以及一个示例应用。

追踪其他函数

要额外追踪任意函数或代码，可以使用装饰器或上下文管理器：

with graphsignal.start_trace("load-external-data"):
    reader.load_data()

完整说明见 Python API 参考。

有用链接

• 追踪并监控 LlamaIndex 应用
• 监控 OpenAI API 的延迟、token、速率限制等
• OpenAI API 成本跟踪：按模型、部署与上下文分析开销