Hugging Face 集成

使用 LangChain Python 与 Hugging Face 集成。

本页涵盖 LangChain 与 Hugging Face Hub 以及 transformers、sentence transformers 和 datasets 等库的所有集成。

聊天模型

ChatHuggingFace

我们可以使用 Hugging Face LLM 类，或直接使用 ChatHuggingFace 类。

请参阅使用示例。

from langchain_huggingface import ChatHuggingFace

LLM

HuggingFaceEndpoint

我们可以使用 HuggingFaceEndpoint 类，通过无服务器 Inference Providers 或专用的 Inference Endpoints 来运行开源模型。

请参阅使用示例。

from langchain_huggingface import HuggingFaceEndpoint

HuggingFacePipeline

我们可以使用 HuggingFacePipeline 类在本地运行开源模型。

请参阅使用示例。

from langchain_huggingface import HuggingFacePipeline

嵌入模型

HuggingFaceEmbeddings

我们可以使用 HuggingFaceEmbeddings 类在本地运行开源嵌入模型。

请参阅使用示例。

from langchain_huggingface import HuggingFaceEmbeddings

HuggingFaceEndpointEmbeddings

我们可以使用 HuggingFaceEndpointEmbeddings 类，通过专用的 Inference Endpoint 来运行开源嵌入模型。

请参阅使用示例。

from langchain_huggingface import HuggingFaceEndpointEmbeddings

Text Embeddings Inference（TEI）

对于 Sentence Transformers 模型的自托管生产服务，Hugging Face 发布了 Text Embeddings Inference，这是一个支持批处理和 GPU 的专用推理服务器。TEI 暴露兼容 OpenAI 的 API，因此可以通过 OpenAIEmbeddings 将 LangChain 指向 TEI 部署。请参阅专门的 TEI 集成指南。

BGE 嵌入模型

Hugging Face 上的 BGE 模型 是来自 北京智源人工智能研究院（BAAI） 的强大开源嵌入系列。

BGE 模型是 Sentence Transformers 模型，因此请将 HuggingFaceEmbeddings 与 encode_kwargs=""normalize_embeddings": True" 一起使用。请参阅使用示例。

---