Oracle Cloud Infrastructure (OCI) Data Science 是一个完全托管的无服务器平台，供数据科学团队在 Oracle Cloud Infrastructure 中构建、训练和管理机器学习模型。

它提供 AI Quick Actions，可用于在 OCI Data Science 中部署嵌入模型。AI Quick Actions 面向希望快速利用 AI 能力的用户。它们通过提供精简、无代码且高效的基础模型使用环境，旨在让更广泛的用户群体能够使用基础模型。可以从 Data Science Notebook 访问 AI Quick Actions。

有关如何使用 AI Quick Actions 在 OCI Data Science 中部署嵌入模型的详细文档，请参见此处和此处。

本 Notebook 介绍如何在 LlamaIndex 中使用 OCI 的 Data Science 嵌入模型。

设置

如果你在 Colab 中打开这个 Notebook，可能需要先安装 LlamaIndex 🦙。

%pip install llama-index-embeddings-oci-data-science

!pip install llama-index

你还需要安装 oracle-ads SDK。

!pip install -U oracle-ads

身份认证

LlamaIndex 支持的身份验证方法与其他 OCI 服务相同，遵循标准 SDK 身份验证方法，具体包括 API Key、会话令牌、实例主体和资源主体。更多细节可在此处找到。请确保具备访问 OCI Data Science Model Deployment 端点所需的策略。oracle-ads 有助于简化 OCI Data Science 内的身份验证。

基本用法

import ads
from llama_index.embeddings.oci_data_science import OCIDataScienceEmbedding

ads.set_auth(auth="security_token", profile="<replace-with-your-profile>")

embedding = OCIDataScienceEmbedding(
    endpoint="https://<MD_OCID>/predict",
)

e1 = embeddings.get_text_embedding("This is a test document")
print(e1)

e2 = embeddings.get_text_embedding_batch(
    ["This is a test document", "This is another test document"]
)
print(e2)

异步

import ads
from llama_index.embeddings.oci_data_science import OCIDataScienceEmbedding

ads.set_auth(auth="security_token", profile="<replace-with-your-profile>")

embedding = OCIDataScienceEmbedding(
    endpoint="https://<MD_OCID>/predict",
)

e1 = await embeddings.aget_text_embedding("This is a test document")
print(e1)

e2 = await embeddings.aget_text_embedding_batch(
    ["This is a test document", "This is another test document"]
)
print(e2)