文本嵌入推理
Hugging Face 文本嵌入推理 (TEI) 是一个用于部署和服务开源文本嵌入和序列分类模型的工具包。
TEI能够为最流行的模型提供高性能的提取，包括FlagEmbedding、Ember、GTE和E5。
要在langchain中使用它，首先安装huggingface-hub。
%pip install --upgrade huggingface-hub
然后使用TEI公开一个嵌入模型。例如，使用Docker，你可以如下服务BAAI/bge-large-en-v1.5：
model=BAAI/bge-large-en-v1.5
revision=refs/pr/5
volume=$PWD/data # share a volume with the Docker container to avoid downloading weights every run
docker run --gpus all -p 8080:80 -v $volume:/data --pull always ghcr.io/huggingface/text-embeddings-inference:0.6 --model-id $model --revision $revision
Docker 使用的具体情况可能会因底层硬件而异。例如，要在 Intel Gaudi/Gaudi2 硬件上提供模型服务，请参考 tei-gaudi 仓库 获取相关的 docker run 命令。
最后，实例化客户端并嵌入您的文本。
from langchain_huggingface.embeddings import HuggingFaceEndpointEmbeddings
API Reference:HuggingFaceEndpointEmbeddings
embeddings = HuggingFaceEndpointEmbeddings(model="http://localhost:8080")
text = "What is deep learning?"
query_result = embeddings.embed_query(text)
query_result[:3]
[0.018113142, 0.00302585, -0.049911194]
doc_result = embeddings.embed_documents([text])
doc_result[0][:3]
[0.018113142, 0.00302585, -0.049911194]