IPEX-LLM: 在英特尔GPU上的本地BGE嵌入
IPEX-LLM 是一个 PyTorch 库，用于在 Intel CPU 和 GPU（例如，带有集成 GPU 的本地 PC，以及 Arc、Flex 和 Max 等独立 GPU）上以极低延迟运行 LLM。
本示例介绍了如何使用LangChain在Intel GPU上进行嵌入任务，并利用ipex-llm进行优化。这在诸如RAG、文档问答等应用中会非常有用。
注意
建议只有使用Intel Arc A系列GPU（不包括Intel Arc A300系列或Pro A60）的Windows用户直接运行此Jupyter笔记本。对于其他情况（例如Linux用户、Intel iGPU等），建议在终端中使用Python脚本运行代码以获得最佳体验。
安装先决条件
为了在英特尔GPU上受益于IPEX-LLM，有几个工具安装和环境准备的先决步骤。
如果您是Windows用户，请访问在Windows上使用Intel GPU安装IPEX-LLM指南，并按照安装先决条件更新GPU驱动程序（可选）并安装Conda。
如果您是Linux用户，请访问在Linux上安装IPEX-LLM并使用Intel GPU，并按照安装先决条件来安装GPU驱动程序、Intel® oneAPI Base Toolkit 2024.0和Conda。
设置
在安装完先决条件后，您应该已经创建了一个包含所有先决条件的conda环境。在此conda环境中启动jupyter服务：
%pip install -qU langchain langchain-community
安装 IPEX-LLM 以优化 Intel GPU，以及 sentence-transformers。
%pip install --pre --upgrade ipex-llm[xpu] --extra-index-url https://pytorch-extension.intel.com/release-whl/stable/xpu/us/
%pip install sentence-transformers
注意
你也可以使用
https://pytorch-extension.intel.com/release-whl/stable/xpu/cn/作为额外的索引URL。
运行时配置
为了获得最佳性能，建议根据您的设备设置几个环境变量：
适用于拥有Intel Core Ultra集成GPU的Windows用户
import os
os.environ["SYCL_CACHE_PERSISTENT"] = "1"
os.environ["BIGDL_LLM_XMX_DISABLED"] = "1"
适用于拥有Intel Arc A系列GPU的Windows用户
import os
os.environ["SYCL_CACHE_PERSISTENT"] = "1"
注意
首次在Intel iGPU/Intel Arc A300系列或Pro A60上运行每个模型时，可能需要几分钟时间进行编译。
基本用法
在初始化 IpexLLMBgeEmbeddings 时，将 model_kwargs 中的 device 设置为 "xpu" 将会把嵌入模型放在 Intel GPU 上，并从 IPEX-LLM 优化中受益：
from langchain_community.embeddings import IpexLLMBgeEmbeddings
embedding_model = IpexLLMBgeEmbeddings(
model_name="BAAI/bge-large-en-v1.5",
model_kwargs={"device": "xpu"},
encode_kwargs={"normalize_embeddings": True},
)
API 参考
sentence = "IPEX-LLM is a PyTorch library for running LLM on Intel CPU and GPU (e.g., local PC with iGPU, discrete GPU such as Arc, Flex and Max) with very low latency."
query = "What is IPEX-LLM?"
text_embeddings = embedding_model.embed_documents([sentence, query])
print(f"text_embeddings[0][:10]: {text_embeddings[0][:10]}")
print(f"text_embeddings[1][:10]: {text_embeddings[1][:10]}")
query_embedding = embedding_model.embed_query(query)
print(f"query_embedding[:10]: {query_embedding[:10]}")