本 Notebook 展示如何使用 Together AI 生成嵌入。Together AI 提供对许多最先进嵌入模型的访问。

访问 https://together.ai 并注册以获取 API 密钥。

设置

如果你在 Colab 中打开这个 Notebook，可能需要先安装 LlamaIndex 🦙。

%pip install llama-index-embeddings-together

!pip install llama-index

# You can set the API key in the embeddings or env
# import os
# os.environ["TOEGETHER_API_KEY"] = "your-api-key"

from llama_index.embeddings.together import TogetherEmbedding

embed_model = TogetherEmbedding(
    model_name="togethercomputer/m2-bert-80M-8k-retrieval", api_key="..."
)

获取嵌入

embeddings = embed_model.get_text_embedding("hello world")

print(len(embeddings))

768

print(embeddings[:5])

[-0.11657876, -0.012690996, 0.24342081, 0.32781482, 0.022501636]