主题
混合部署
一种 LangSmith Deployment 设置:你在自己的基础设施中自托管 Agent Server,并将追踪发送到 LangSmith Cloud 或自托管 LangSmith 实例。
混合部署是 LangSmith Deployment 的一种平台设置,后者在生产环境中部署并运行 agent。
在混合平台设置中,你在自己的基础设施中自托管 Agent Server,并将其追踪发送到 LangSmith,LangSmith 可以是自托管实例或 LangSmith Cloud。
这种设置让你可以控制 agent 工作负载的运行位置,同时让你选择最符合可观测性和合规性要求的 LangSmith 平台选项。
组件
| 组件 | 运行位置 | 管理方 |
|---|---|---|
Agent Server
用于 LangSmith Deployment | 你的基础设施 | 你 | | LangSmith
(追踪、评估、提示词) | 自托管在你的基础设施中,或 LangSmith SaaS | 你(自托管)或 LangSmith(SaaS) |
NOTE
混合部署是 LangSmith Deployment(agent 服务)的一种平台设置。若仅需为可观测性、评估和提示词工程设置 LangSmith,请参阅设置 LangSmith。
工作流
- 在本地构建并测试 agent。
- 将 agent 部署到运行在你基础设施中的 Agent Server。
- 将 agent 的追踪发送到 LangSmith(自托管或 SaaS)以进行可观测性和评估。
自托管 Agent Server
使用 Docker、Docker Compose 或 Kubernetes 部署独立的 Agent Server。有关先决条件、环境变量和特定平台的说明,请参阅独立服务器指南。
选择追踪发送位置
Agent Server 会根据 LANGSMITH_ENDPOINT 环境变量将追踪发送到 LangSmith:
LangSmith SaaS:省略
LANGSMITH_ENDPOINT以使用默认值(GCP US),或将其设置为你的区域端点:区域 主机 / URL GCP US {`$ / https://${prefix_0 || "api.smith"}.langchain.com${suffix_0 || ""}`}GCP EU {`$ / https://eu.${prefix_0 || "api.smith"}.langchain.com${suffix_0 || ""}`}GCP APAC {`$ / https://apac.${prefix_0 || "api.smith"}.langchain.com${suffix_0 || ""}`}AWS US {`$ / https://aws.${prefix_0 || "api.smith"}.langchain.com${suffix_0 || ""}`}自托管 LangSmith:将
LANGSMITH_ENDPOINT设置为你的自托管 LangSmith 实例的主机名。
在两种情况下,都请使用你要追踪到的 LangSmith 实例签发的 LangSmith API key 进行身份验证。