主题
PremAI 是一个一体化平台,可简化由生成式 AI 驱动的稳健、生产级应用的创建。通过简化开发流程,PremAI 让你能够专注于提升用户体验并推动应用的总体增长。你可以在此处快速开始使用我们的平台。
在本节中,我们将讨论如何通过 PremEmbeddings 在 llama-index 中访问不同的嵌入模型
安装与设置
我们首先安装 llama-index 和 premai-sdk。可以输入以下命令进行安装:
终端窗口
pip install premai llama-index1
在继续之前,请确保你已在 PremAI 上创建账户并创建了项目。如果没有,请参阅快速开始指南以开始使用 PremAI 平台。创建你的第一个项目并获取 API 密钥。
%pip install llama-index-llms-premai1
from llama_index.embeddings.premai import PremAIEmbeddings1
在 LlamaIndex 中设置 PremAIEmbeddings 实例
导入所需模块后,让我们设置客户端。现在假设我们的 project_id 是 8。但请务必使用你自己的 project-id,否则会抛出错误。
要在 PremAI 中使用 llama-index,你无需传递任何模型名称,也无需为聊天客户端设置任何参数。默认情况下,它会使用 LaunchPad 中使用的模型名称和参数。
我们支持大量最先进的嵌入模型。你可以在此处查看我们支持的 LLM 和嵌入模型列表。在本示例中,我们暂时使用 text-embedding-3-large 模型。
import os
import getpass
if os.environ.get("PREMAI_API_KEY") is None:
os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")
prem_embedding = PremAIEmbeddings(
project_id=8, model_name="text-embedding-3-large"
)1
2
3
4
5
6
7
8
9
2
3
4
5
6
7
8
9
调用嵌入模型
现在一切就绪。让我们开始使用嵌入模型,先处理单个查询,再处理多个查询(也称为文档)
query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)1
2
2
print(f"Dimension of embeddings: {len(query_result)}")1
Dimension of embeddings: 30721
query_result[:5]1
[-0.02129288576543331,
0.0008162345038726926,
-0.004556538071483374,
0.02918623760342598,
-0.02547479420900345]1
2
3
4
5
2
3
4
5