Skip to content
LlamaIndex 文档版本 跟随上游 源快照 0e0dc68f 更新于 2026-10-18

Apertis 提供统一的 API 网关,可通过兼容 OpenAI 的接口访问 OpenAI、Anthropic、Google 等多个 LLM 提供商。你可以在他们的文档中了解更多。

支持的端点:

  • /v1/chat/completions - OpenAI Chat Completions 格式(默认)
  • /v1/responses - 兼容 OpenAI Responses 格式
  • /v1/messages - 兼容 Anthropic 格式

如果你在 Colab 中打开这个 Notebook,可能需要先安装 LlamaIndex 🦙。

%pip install llama-index-llms-apertis
!pip install llama-index
from llama_index.llms.apertis import Apertis
from llama_index.core.llms import ChatMessage

使用 ChatMessage 列表调用 chat

你需要设置环境变量 APERTIS_API_KEY,或者在类构造函数中设置 api_key

# import os
# os.environ['APERTIS_API_KEY'] = '<your-api-key>'

llm = Apertis(
    api_key="<your-api-key>",
    max_tokens=256,
    context_window=4096,
    model="gpt-5.2",
)
message = ChatMessage(role="user", content="Tell me a joke")
resp = llm.chat([message])
print(resp)

流式

message = ChatMessage(role="user", content="Tell me a story in 250 words")
resp = llm.stream_chat([message])
for r in resp:
    print(r.delta, end="")

使用提示词调用 complete

resp = llm.complete("Tell me a joke")
print(resp)
resp = llm.stream_complete("Tell me a story in 250 words")
for r in resp:
    print(r.delta, end="")

模型配置

Apertis 支持来自多个提供商的模型:

提供商示例模型
OpenAIgpt-5.2, gpt-5-mini-2025-08-07
Anthropicclaude-sonnet-4.5
Googlegemini-3-flash-preview
# Using Claude
llm = Apertis(model="claude-sonnet-4.5")
resp = llm.complete("Write a story about a dragon who can code in Rust")
print(resp)
# Using Gemini
llm = Apertis(model="gemini-3-flash-preview")
resp = llm.complete("Explain quantum computing in simple terms")
print(resp)

BytesRouter 是社区翻译站点,所有译文仅供参考,一切以官方英文原文为准。