直接模型访问

通过提供商专用的 LLM Gateway 路径直接访问提供商 API，而不使用网关的标准化层。

NOTE

LLM Gateway 处于 beta 阶段。

直接模型访问通过提供商专用网关路径公开每个提供商 API。网关仍会处理认证、提供商密钥、策略和追踪，但不会将请求和响应转换为其他提供商的 API 格式。

跨提供商进行模型调用时，优先使用标准模型访问。当你希望直接访问提供商的 API、保留其原生请求和响应行为并避免网关的标准化层时，请使用直接模型访问。

选择提供商路径

将提供商路径追加到你的区域网关基础 URL：

提供商	网关路径	密钥名称
Anthropic	/anthropic	ANTHROPIC_API_KEY
AWS Bedrock	/bedrock	AWS_BEARER_TOKEN_BEDROCK
Azure Foundry	/azure	AZURE_FOUNDRY_API_KEY, AZURE_FOUNDRY_RESOURCE_NAME
Baseten	/baseten	BASETEN_API_KEY
Fireworks	/fireworks	FIREWORKS_API_KEY
Google Gemini	/gemini	GOOGLE_API_KEY
Gemini Enterprise Agent Platform	/vertex	VERTEX_SERVICE_ACCOUNT_JSON
OpenAI	/openai	OPENAI_API_KEY

Gateway Credits 模型使用标准端点，而不是提供商专用路径。这些托管模型不需要你自己的提供商密钥。

配置提供商 SDK

将每个提供商 SDK 的基础 URL 设置为其直接网关路径，并将你的 LangSmith API key 用作提供商 API key：

export LANGSMITH_API_KEY="lsv2_..._....cbed3e"
export BASE_URL="https://gateway.smith.langchain.com"

export ANTHROPIC_BASE_URL="$BASE_URL/anthropic"
export OPENAI_BASE_URL="$BASE_URL/openai/v1"
export GOOGLE_GEMINI_BASE_URL="$BASE_URL/gemini"

export ANTHROPIC_API_KEY="$LANGSMITH_API_KEY"
export OPENAI_API_KEY="$LANGSMITH_API_KEY"
export GEMINI_API_KEY="$LANGSMITH_API_KEY"
export GOOGLE_API_KEY="$LANGSMITH_API_KEY"

网关会从工作区的 Provider Secrets 中解析实际的提供商密钥，因此提供商密钥无需存储在本地。

OpenAI SDK

import os

from openai import OpenAI

client = OpenAI(
    base_url=os.environ["OPENAI_BASE_URL"],
    api_key=os.environ["LANGSMITH_API_KEY"],
)
response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "ping"}],
)
print(response.choices[0].message.content)

Anthropic SDK

import os

import anthropic

client = anthropic.Anthropic(
    base_url=os.environ["ANTHROPIC_BASE_URL"],
    api_key=os.environ["LANGSMITH_API_KEY"],
)
message = client.messages.create(
    model="claude-opus-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "ping"}],
)
print(message.content[0].text)

直接路径使用提供商的原生模型名称，不带提供商前缀。

配置 LangChain 和 Deep Agents

LangChain 聊天模型和 Deep Agents（包括 Deep Agents Code）通过 LANGSMITH_GATEWAY 环境变量访问这些提供商路径：

export LANGSMITH_API_KEY="lsv2_..."
export LANGSMITH_GATEWAY="true"

每个受支持的集成都会追加自己的提供商路径，因此 ChatAnthropic 会调用 https://gateway.smith.langchain.com/anthropic，而 ChatOpenAI 会调用 https://gateway.smith.langchain.com/openai/v1。要改为通过标准端点路由请求，请参阅 LLM Gateway 快速入门。

使用区域网关

如果你的 LangSmith 账户位于区域实例上，请使用相应的区域网关并追加提供商路径。例如，在 GCP EU 中直接访问 Anthropic 时，使用 https://eu.gateway.smith.langchain.com/anthropic。

另请参阅

• 快速入门：使用标准 API 跨提供商调用模型。
• 管理员设置：配置提供商密钥和访问权限。
• 追踪、引擎和访问控制：查看网关追踪出现的位置以及谁可以查看它们。

---