Gateway Credits

使用 Gateway Credits 无需提供商密钥即可访问模型，只需通过 LangSmith 进行身份验证。

NOTE

LLM Gateway 处于 beta 阶段。

Gateway Credits 让你无需设置提供商账户或密钥，就能通过标准 LLM Gateway API 调用 LangChain 托管的模型。只需使用你的 LangSmith API key 进行身份验证。无需提供商密钥。

有关 SemIf 的可用性和用法，请参阅决策模型。

网关会根据每个请求的模型 ID 进行路由。像 moonshotai/kimi-k3 这样的托管模型 slug 会使用 Gateway Credits。以已配置的 bring-your-own-key 提供商开头的模型 ID（例如 anthropic/claude-opus-5）则会使用该提供商的密钥。

⛓Base URL

将任何受支持的客户端指向标准网关 API：

https://gateway.smith.langchain.com/v1

使用你的 LangSmith API key 作为 bearer token 进行身份验证。

有关区域基础 URL，请参阅区域网关。

可用模型

在请求正文中按 ID 选择托管模型。模型 ID 不区分大小写。

模型 ID	说明
moonshotai/kimi-k2.6	Moonshot AI 的 Kimi K2.6。强大的通用模型。由 Fireworks Inference 提供支持。
moonshotai/kimi-k3	Moonshot AI 的 Kimi K3。由 Fireworks Inference 提供支持。

使用标准模型列表端点列出工作区可用的所有模型，包括已配置的 bring-your-own-key 提供商和托管模型：

curl https://gateway.smith.langchain.com/v1/models \
    -H "Authorization: Bearer $LANGSMITH_API_KEY"

在提示词请求的 model 字段中，完全按返回的模型 ID 使用。

前置条件

使用 Gateway Credits 之前：

• 你的组织使用的是付费套餐（Developer、Plus、Startup 或 Premier）。
• 你有一个工作区范围的 LangSmith API key，并关联到具有 gateway:invoke 和 workspaces:read 权限的角色。如果不确定，请参阅管理员设置。

发起调用

将 OpenAI 兼容客户端指向 https://gateway.smith.langchain.com/v1，使用你的 LangSmith API key 进行身份验证，并将 model 设置为托管模型 ID。

cURL

curl https://gateway.smith.langchain.com/v1/chat/completions \
    -H "Authorization: Bearer $LANGSMITH_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{"model":"moonshotai/kimi-k3","messages":[{"role":"user","content":"ping"}]}'

OpenAI SDK

import os

from openai import OpenAI

client = OpenAI(
    base_url="https://gateway.smith.langchain.com/v1",
    api_key=os.environ["LANGSMITH_API_KEY"],
)
response = client.chat.completions.create(
    model="moonshotai/kimi-k3",
    messages=[{"role": "user", "content": "ping"}],
)
print(response.choices[0].message.content)

LangChain

import os

from langchain.chat_models import init_chat_model

model = init_chat_model(
    model="moonshotai/kimi-k3",
    model_provider="openai",
    base_url="https://gateway.smith.langchain.com/v1",
    api_key=os.environ["LANGSMITH_API_KEY"],
)
print(model.invoke("ping").content)

支持的端点

由 Credits 提供支持的聊天模型使用与 bring-your-own-key 模型相同的标准 API 格式：

方法和路径	行为
POST /v1/chat/completions	OpenAI Chat Completions，包括流式传输。
POST /v1/messages	Anthropic Messages，包括流式传输。
POST /v1/responses	OpenAI Responses。
GET /v1/models	列出工作区可用的模型。

有关请求示例和转换行为，请参阅 API 格式。

定价

除 Enterprise 外，所有付费套餐均可使用 Gateway Credits。套餐详情和当前费率请参阅定价页面。Gateway Credits 以 LangChain Credit Units (LCUs) 计价；每次调用都会根据 token 用量消耗 LCU。

标准网关的支出策略适用于托管模型流量，因此你配置的任何组织、工作区、API key 或用户上限也会约束 Gateway Credit 用量。你可以使用与 bring-your-own-key 提供商相同的工具来控制 Gateway Credit 消耗。例如，将某个 API key 在所有提供商上的月度上限设为 $200，或设置包含托管模型调用的工作区每日限额。

追踪

与所有网关流量一样，托管模型调用会被追踪到 LangSmith。有关追踪数据的存放位置以及如何控制对它们的访问，请参阅追踪、引擎和访问控制。

后续步骤

• 快速入门：发起你的第一次网关代理调用。
• API 格式：通过 Chat Completions、Messages 或 Responses 调用模型。
• 支出策略：为 Gateway Credit 用量添加成本限制。
• 直接模型访问：使用提供商原生 API 和模型 ID。

---