主题
LlamaCloud 可以完全部署在你自己的基础设施内。自托管部署 —— 也被称为 BYOC(Bring Your Own Cloud) —— 在把数据、模型与基础设施都留在你自己掌控之下的同时,给你 LlamaCloud 平台的全部能力。
你能得到什么
自托管的 LlamaCloud 部署包含完整的平台 —— 与我们托管云服务相同的功能:
- LlamaParse —— 文档解析,支持 130 多种文件格式、OCR 与智能体式解析模式
- LlamaExtract —— 从非结构化文档中抽取结构化数据
- LlamaCloud Indexes —— 托管的 RAG 流水线,含文档摄取、切块、嵌入与检索
- 完整的 Web 界面与 API —— 与托管服务相同的界面和 REST API,运行在你的环境里
工作原理
LlamaCloud 以 Helm chart 打包,部署在 Kubernetes 上(EKS、AKS、GKE 或任何符合规范的集群)。你通过一个 values.yaml 文件来配置部署,在其中指定数据库连接、LLM 凭据、认证提供方与存储设置。
云厂商支持
我们为各主流云平台都提供部署指南与经过验证的配置:
| 云厂商 | Kubernetes | 存储 |
|---|---|---|
| Amazon Web Services | EKS | S3 |
| Microsoft Azure | AKS | Azure Blob Storage |
| Google Cloud Platform | GKE | GCS |
LLM 提供方支持
LlamaParse 使用来自 OpenAI、Anthropic 与 Google 的模型,并按使用场景挑选以获得最佳质量。自托管部署同时支持直连 API 与企业级的云托管模型:
| 模型家族 | 直连 API | 企业云 |
|---|---|---|
| OpenAI | OpenAI API | Azure OpenAI |
| Anthropic Claude | Anthropic API | AWS Bedrock |
| Google Gemini | Google Gemini API | Google Vertex AI |
所有 LLM 调用都从你的集群直连提供方,使用你自己的 API key 与合同。对于需要把模型限制在某一家云厂商内的组织,这一点是可配置的 —— 请联系我们讨论你的需求。
安全与合规
自托管正是为有很强数据治理要求的组织而设计的:
- 数据留在你的云里 —— 文档、嵌入向量与处理结果绝不离开你的基础设施
- 企业级认证 —— 与你的身份提供方做 OIDC 集成(Microsoft Entra ID、Okta 等)
- 网络隔离 —— 部署在你自己的 VPC 内,对 ingress、egress 与网络策略拥有完全控制权
关于安全评审与 SOC 2 相关问题,见我们的 Trust Center,在那里你可以索取我们的 SOC 2 Type 2 报告及配套合规文档。要索取数据处理附录(DPA),请填写我们的 DPA 申请表。
开始使用
自托管的 LlamaCloud 属于 Enterprise 套餐。
- 联系我们 讨论你的部署并取得许可证 key
- 按 Quick Start 指南 完成部署
- 查阅 各云厂商部署指南 获取可直接上生产的配置