各 LlamaCloud 服务分别要连哪些数据库/队列/文件存储依赖？

• Backend：Postgres、MongoDB、Redis、Filestore
• Jobs Service：Postgres、MongoDB、Filestore
• Temporal Jobs Worker：Temporal、Redis、MongoDB
• Usage：MongoDB 与 Redis
• LlamaParse：经 Temporal 跑任务，从 Filestore 读写
• LlamaParse OCR：无

哪些能力需要 LLM，分别要什么模型？

• Chat UI：这一能力要求客户的 OpenAI Key 能访问纯文本模型，和/或多模态模型（若使用的是多模态索引）

  • 这些 key 是通过 Helm chart 设置的：

    • config:
        llms:
          openAi:
            apiKey: <OPENAI-APIKEY>
            # Name of the existing secret to use for the OpenAI API key
            # secret: ""
      
        # If you are using Azure OpenAI, you can configure it like this:
        # azureOpenAi:
        #  secret: ""
        #  deployments: []
        #  # - model: "gpt-4o-mini"
        #  #   deploymentName: "gpt-4o-mini"
        #  #   apiKey: ""
        #  #   baseUrl: "https://api.openai.com/v1"
        #  #   apiVersion: "2024-08-06"

• Embeddings：连接嵌入模型提供方所需的凭据，是在应用内、创建 Index 的流程中直接录入的。

• LlamaParse Fast：只做文本抽取，不用 LLM。

• LlamaParse Accurate：这一模式底层用的是 gpt-4o。

LLM 的 API 速率限制

你会在很多场合撞上 LLM 提供方的某种速率限制。最好排的调试方式是看日志：一旦看到 429 错误，就去提高你的每分钟 token 上限。

如何调整日志级别？

  config:
    ## Log level for the application (DEBUG, INFO, WARNING, ERROR, CRITICAL)
    logLevel: INFO

目前支持哪些认证模式？

自托管部署我们同时支持 OIDC 与 Basic Auth。更多信息请参考认证模式文档。

已知问题

用自定义 Helm release 名做 BYOC 的端口转发

问题：在没有配 ingress 的情况下测试 BYOC 部署（用端口转发）时，backend 服务必须能在 http://llamacloud-backend:8000 被访问到。

受影响的场景：

• 未配 ingress 的 BYOC 部署
• 用 kubectl port-forward 做测试

绕法（在永久修复到位之前）：

1. 手工建 Service：再创建一个使用期望名字的后端服务。

2. 配好 Ingress：正经配置 ingress，而不是依赖端口转发。细节见 Ingress 配置文档。

建议：生产部署请始终使用规范的 ingress 配置，而不是端口转发。

手工建 Service

当你的 ingress 没有妥善配好时，可以照下面几步先绕过去。

创建一个 Kuberentes Service 对象：

llamacoud-backend-service.yaml

apiVersion: v1
kind: Service
metadata:
  name: llamacloud-backend
  namespace: <your namespace>
spec:
  ports:
  - name: http
    port: 8000
    protocol: TCP
    targetPort: http
  selector:
    app.kubernetes.io/instance: llamacloud
    app.kubernetes.io/name: llamacloud
  type: ClusterIP
status:
  loadBalancer: {}

应用这个对象：kubectl apply -f llamacloud-backend-service.yaml -n <your namespace>。

现在你应该就能创建账号并登录 LlamaCloud 界面了。若你还想试试文档解析，就得告诉浏览器该怎么与 llamacloud-backend 服务通信 —— 在本机的 /etc/hosts 里加上这一行即可：

/etc/hosts

127.0.0.1  llamacloud-backend