主题
云平台功能
LangSmith Deployment 独有的云平台功能,包括数据区域、静态 IP 地址、载荷大小限制和部署类型。
本页介绍仅适用于 Cloud 部署的平台功能。自托管的对应内容,请参阅部署到自托管环境。
数据区域
部署可以在两个数据区域中创建:美国和欧洲。
部署所属的数据区域由创建该部署的 LangSmith 组织的数据区域决定。部署及其底层数据库无法在数据区域之间迁移。
静态 IP 地址
2025 年 1 月 6 日之后创建的部署,其所有流量都经由 NAT 网关。该 NAT 网关根据数据区域的不同拥有若干静态 IP 地址。
允许列表 IP 地址
使用以下静态 IP 地址为各区域的流量配置允许列表:
| GCP 美国 | GCP 欧洲 | GCP 亚太 | AWS 美国 |
|---|---|---|---|
| 35.197.29.146 | 34.90.213.236 | 34.40.236.16 | 3.13.80.97 |
| 34.145.102.123 | 34.13.244.114 | 34.40.140.88 | 3.146.216.198 |
| 34.169.45.153 | 34.32.180.189 | 34.151.88.209 | 16.59.72.244 |
| 34.82.222.17 | 34.34.69.108 | 35.189.51.120 | |
| 35.227.171.135 | 34.32.145.240 | 34.40.172.39 | |
| 34.169.88.30 | 34.90.157.44 | 35.189.56.87 | |
| 34.19.93.202 | 34.141.242.180 | 35.189.17.201 | |
| 34.19.34.50 | 34.32.141.108 | 35.244.99.196 | |
| 34.59.244.194 | 34.12.178.175 | 34.40.149.177 | |
| 34.9.99.224 | 34.91.192.230 | 34.40.144.104 | |
| 34.68.27.146 | 34.32.209.237 | 34.151.130.182 | |
| 34.41.178.137 | 34.178.128.69 | 34.116.82.199 | |
| 34.123.151.210 | |||
| 34.135.61.140 | |||
| 34.121.166.52 | |||
| 34.31.121.70 | |||
| 136.107.81.228 | |||
| 136.107.155.54 | |||
| 8.228.118.112 | |||
| 136.70.239.145 | |||
| 8.234.246.249 | |||
| 35.221.47.168 | |||
| 136.90.3.18 | |||
| 34.48.88.158 |
载荷大小
发送到 Cloud 部署的所有请求,其最大载荷大小为 25 MB。载荷超过 25 MB 的请求会返回 413 Payload Too Large 错误。
部署类型
控制平面提供两种部署类型:Serverless 和 Dedicated。每种类型提供三种规格:Small、Medium 和 Large。
仍使用此前定价的组织可继续创建 Development 和 Production 部署,直至 2026 年 10 月 1 日。这两种类型不支持缩容至零。要通过 CLI 选择它们,请传入 --deployment-type dev 或 --deployment-type prod。有关定价和过渡时间线,请参阅管理计费。有关 --deployment-type 取值的完整列表,请参阅 langgraph deploy。
| 部署类型 | 扩缩容 | 数据库 | 适用场景 |
|---|---|---|---|
| Serverless | 空闲后缩容至零,在下一个请求时唤醒 | 共享、多租户 | 后台类或可容忍延迟的智能体,以及开发/测试部署 |
| Dedicated | 始终在线,跨副本自动扩缩容 | 专属数据库,具备自动备份和高可用性 | 处于关键路径上的生产工作负载 |
WARNING
部署类型不可变更 部署创建后,其部署类型无法更改。你仍然可以更改其规格。
Serverless
Serverless 部署针对后台类和可容忍延迟的智能体,以及开发、测试和预览分支进行了成本优化。Serverless 部署在一段空闲期后会缩容至零,并在下一个请求到达时唤醒。只要资源处于已配置状态就会产生计算费用,包括部署缩容前的空闲时间。因此它非常适合间歇运行或能够容忍短暂启动延迟的智能体,因为缩容后的第一个请求在部署启动期间需要更长的响应时间。
如果需要持续低延迟或保证可用性的工作负载,请改用 Dedicated。Serverless 部署运行在共享的多租户基础设施上。
Agent Server 具备容错能力:它会自动从 Redis 或 Postgres 的短暂中断中恢复,并重试失败的后台运行。
Dedicated
Dedicated 部署始终在线,专为处于关键路径上的生产工作负载(例如面向客户的应用)而构建。每个 Dedicated 部署都拥有自己的数据库,具备自动备份和高可用性,并会随着负载增加跨副本自动扩容。有关详细信息,请参阅扩缩容。
Dedicated 部署的资源可以根据使用场景和容量限制逐案提升。请通过 support.langchain.com 联系支持团队,申请提升资源。
规格
Serverless 和 Dedicated 都提供三种规格:Small、Medium 和 Large。每种规格决定了为部署配置的计算和内存,更大的规格可以自动扩容到更多副本。下表展示了每种规格所包含的资源:
| 资源 | Serverless S | Serverless M | Serverless L | Dedicated S | Dedicated M | Dedicated L |
|---|---|---|---|---|---|---|
| 运行时计算(vCPU) | 1 | 2 | 4 | 3 | 5 | 10 |
| 运行时内存(GiB) | 2 | 5 | 9 | 6 | 12 | 24 |
| 数据库计算(vCPU) | — | — | — | 1 | 2 | 4 |
| 数据库内存(GiB) | — | — | — | 4 | 8 | 16 |
| 存储 | 共享 | 共享 | 共享 | 自动扩缩 | 自动扩缩 | 自动扩缩 |
NOTE
运行时计算和内存是为部署的所有容器配置的 vCPU 与内存总量,并四舍五入到最接近的整数单位。Serverless 部署使用共享的多租户数据库,因此没有专属的数据库资源。Dedicated 存储是一块随用量增长而自动扩缩的磁盘。
有关每种规格的价格,请参阅定价页面,其中包含部署成本计算器。有关 Serverless 和 Dedicated 部署的计费方式,请参阅管理计费。
数据库配置
控制平面与数据平面监听应用协同工作,自动为每个 Cloud 部署创建 Postgres 数据库。该数据库充当部署的持久化层。
在实现 LangGraph 应用时,无需配置 checkpointer。系统会为图自动配置检查点器。为图手动配置的任何检查点器都会被自动配置的检查点器替换。
无法直接访问数据库。对数据库的所有访问都通过 Agent Server 进行。
在部署本身被删除之前,数据库永远不会被删除。
对于自托管部署,请参阅自定义 PostgreSQL 配置。
扩缩容
Cloud 部署会自动扩缩容;你无需直接配置队列工作器、副本数或连接池大小。Dedicated 部署会根据 CPU 使用率、内存使用率以及待处理运行的数量来增减副本,上限为其规格所允许的最大值。每项指标独立评估,部署会扩容到满足其中所需副本数最多的那一项。队列工作器按待处理运行数扩缩容,而 API 服务器按 CPU 和内存扩缩容,因此读取流量不会拖慢运行提交,反之亦然。缩容会被延迟执行,以避免在突发负载下频繁抖动。
自动扩缩容会改变副本数量,但每个副本可用的 CPU 和内存由部署的规格固定。如果部署持续承受 CPU 或内存压力,请将其升级到更大的规格。规格变更会以新版本的形式推出,不会造成停机;部署类型无法更改。
应用层面的扩缩容手段(持久化模式、异步模式、避免同步阻塞、使用 /join 而非轮询)对 Cloud 与自托管同样适用。有关基础概念,请参阅自托管环境中的扩缩容;其中的 Helm 和资源配置不适用于 Cloud。