主题
BYOC 计费
LangSmith BYOC 如何在你的 AWS 账户和 LangSmith 合同之间计费、哪些 AWS 服务产生成本，以及部署前需要检查的账户配额。
成本模型
一个 BYOC 部署会产生两份独立的账单：
- AWS：数据平面运行在你自己的 AWS 账户中，因此 AWS 会就其创建的基础设施直接向你收费。
- LangSmith：LangChain 根据你的合同和用量向你开具发票。
LangSmith BYOC 可以与 AWS Marketplace 集成。
计费的 AWS 服务
以下资源会影响你账户中的数据平面成本。AWS 按其自身费率对它们收费，与你的 LangSmith 合同无关。使用 BYOVPC 时，网络成本取决于你配置和管理的网关、终端节点和日志记录。
| 服务 | 覆盖内容 | 计费依据 |
|---|---|---|
| Amazon EKS | 数据平面集群的 Kubernetes 控制平面 | 按集群小时 |
| Amazon EC2 | EKS 集群中运行的节点 | 按实例小时 |
| Amazon RDS | 用于关系型工作负载的实例 | 按实例小时（包括多可用区），外加存储、备份和快照 |
| Amazon ElastiCache | 用于缓存和队列工作负载的 Redis 实例 | 按节点小时 |
| Amazon S3 | 用于 LangSmith 工作负载、ClickHouse 备份和 VPC 流日志的存储桶 | 存储、请求和数据传输 |
| Amazon EBS | 节点根磁盘，以及用于 ClickHouse 存储的卷 | 按 GB-月，外加超过 gp3 基线的预置 IOPS 和吞吐量 |
| 区域 NAT 网关 | 来自私有子网的出站流量 | 按小时，外加处理的数据量 |
| Elastic Load Balancing | 两个网络负载均衡器：一个位于 Istio 入口前面，一个用于 EKS API PrivateLink 终端节点 | 按 NLB 小时，外加 NLCU |
| AWS PrivateLink | 数据平面使用的接口 VPC 终端节点 | 按每个可用区小时的接口终端节点，外加处理的数据量 |
| AWS Lambda 和 Amazon EventBridge | PrivateLink 终端节点的协调 | 按调用次数，以及按发布的事件数 |
| Amazon CloudWatch Logs | EKS 控制平面日志 | 摄取和存储 |
| VPC 流日志 | 将流日志投递到 S3 | 按投递的 GB |
| Amazon Route 53 | 私有托管区 | 按托管区-月，外加查询次数 |
| AWS Secrets Manager | RDS 生成的主密钥，以及 LangSmith 引用的应用密钥 | 按密钥-月，外加 API 调用 |
数据传输
BYOC 中有几个数据传输成本驱动因素：
- 跨可用区流量，因为数据平面跨可用区高可用运行。
- 通过 NAT 网关的出站流量，例如调用模型服务商，或通过 Webhook 调用外部 API。
- 公有 IPv4 地址，AWS 按地址小时收费。区域 NAT 网关使用一个，当启用公共入口时，面向互联网的负载均衡器会再使用一个。
服务限制
AWS 按区域和按账户强制执行默认配额。对于新建或使用较少的账户，默认值对于生产环境往往过低，因此请在部署前检查以下内容，并在需要时申请提高配额：
- EC2 vCPU 配额：至少 64 vCPU 的按需容量，覆盖 3 个系统节点和 Karpenter 工作负载。
- 子网 IP 容量：为 Pod、节点、EKS ENI、负载均衡器，以及每个应用子网至少 12 个接口终端节点留出空间。
- VPC 终端节点：12 个接口终端节点和 1 个 S3 网关终端节点的容量。
- 负载均衡器：2 个网络负载均衡器及其目标组的容量。
- EKS：1 个 EKS 集群的容量。
- 存储：用于 ClickHouse、ZooKeeper、节点磁盘和其他持久化工作负载的 EBS 卷和存储容量。
- 数据库：2 个 RDS 实例和 3 个 ElastiCache 副本的容量。
- PrivateLink 和网络：1 个终端节点服务和 1 个区域 NAT 网关的容量。
有关当前的默认值，请参阅 AWS 服务配额。
使用 BYOVPC 时，在检查配额时要考虑现有资源用量以及你选择的终端节点和出站配置。你提供的子网还必须满足子网大小和可用 IP 要求。
如果预置停滞或失败，配额耗尽通常是一个常见原因，此外还有缺少权限和服务控制策略。请参阅如果预置失败会发生什么？。