Skip to main content
Open In ColabOpen on GitHub

IPEX-LLM

IPEX-LLM 是一个 PyTorch 库，用于在 Intel CPU 和 GPU（例如，带有 iGPU 的本地 PC，以及 Arc、Flex 和 Max 等独立 GPU）上以极低延迟运行 LLM。

IPEX-LLM 在英特尔 GPU 上​

本示例介绍了如何使用LangChain与ipex-llm交互，以在Intel GPU上进行文本生成。

注意

建议只有使用Intel Arc A系列GPU（不包括Intel Arc A300系列或Pro A60）的Windows用户直接运行Jupyter notebook以进行“IPEX-LLM on Intel GPU”部分。对于其他情况（例如Linux用户、Intel iGPU等），建议在终端中使用Python脚本运行代码以获得最佳体验。

安装先决条件​

为了在英特尔GPU上受益于IPEX-LLM，有几个工具安装和环境准备的先决步骤。

如果您是Windows用户，请访问在Windows上安装IPEX-LLM并使用Intel GPU指南，并按照安装先决条件更新GPU驱动程序（可选）并安装Conda。

如果您是Linux用户，请访问在Linux上安装IPEX-LLM并使用Intel GPU，并按照安装先决条件来安装GPU驱动程序、Intel® oneAPI Base Toolkit 2024.0和Conda。

设置​

在安装完先决条件后，您应该已经创建了一个包含所有先决条件的conda环境。在此conda环境中启动jupyter服务：

%pip install -qU langchain langchain-community

安装IEPX-LLM以在Intel GPU上本地运行LLMs。

%pip install --pre --upgrade ipex-llm[xpu] --extra-index-url https://pytorch-extension.intel.com/release-whl/stable/xpu/us/

注意

你也可以使用 https://pytorch-extension.intel.com/release-whl/stable/xpu/cn/ 作为额外的索引URL。

运行时配置​

为了获得最佳性能，建议根据您的设备设置几个环境变量：

适用于使用Intel Core Ultra集成GPU的Windows用户​

import os

os.environ["SYCL_CACHE_PERSISTENT"] = "1"
os.environ["BIGDL_LLM_XMX_DISABLED"] = "1"

适用于拥有Intel Arc A系列GPU的Windows用户​

import os

os.environ["SYCL_CACHE_PERSISTENT"] = "1"

注意

每个模型首次在Intel iGPU/Intel Arc A300系列或Pro A60上运行时，可能需要几分钟的时间进行编译。

对于其他GPU类型，请参考这里适用于Windows用户，以及这里适用于Linux用户。

基本用法​

import warnings

from langchain.chains import LLMChain
from langchain_community.llms import IpexLLM
from langchain_core.prompts import PromptTemplate

warnings.filterwarnings("ignore", category=UserWarning, message=".*padding_mask.*")
API Reference:LLMChain | IpexLLM | PromptTemplate

为您的模型指定提示模板。在这个例子中，我们使用了vicuna-1.5模型。如果您使用的是不同的模型，请相应地选择合适的模板。

template = "USER: {question}\nASSISTANT:"
prompt = PromptTemplate(template=template, input_variables=["question"])

使用IpexLLM.from_model_id在本地加载模型。它将直接以Huggingface格式加载模型，并自动转换为低比特格式进行推理。在初始化IpexLLM时，在model_kwargs中将device设置为"xpu"，以便将LLM模型加载到Intel GPU上。

llm = IpexLLM.from_model_id(
    model_id="lmsys/vicuna-7b-v1.5",
    model_kwargs={
        "temperature": 0,
        "max_length": 64,
        "trust_remote_code": True,
        "device": "xpu",
    },
)

在链中使用它

llm_chain = prompt | llm

question = "What is AI?"
output = llm_chain.invoke(question)

保存/加载低比特模型​

或者，您可以将低比特模型保存到磁盘一次，并使用from_model_id_low_bit而不是from_model_id来重新加载它以供以后使用——甚至可以在不同的机器上使用。它是空间高效的，因为低比特模型比原始模型需要的磁盘空间显著减少。而且from_model_id_low_bit在速度和内存使用方面也比from_model_id更高效，因为它跳过了模型转换步骤。您同样可以在model_kwargs中将device设置为"xpu"，以便将LLM模型加载到Intel GPU上。

要保存低比特模型，请使用save_low_bit如下所示。

saved_lowbit_model_path = "./vicuna-7b-1.5-low-bit"  # path to save low-bit model
llm.model.save_low_bit(saved_lowbit_model_path)
del llm

从保存的低比特模型路径加载模型如下。

请注意，低比特模型的保存路径仅包括模型本身，不包括分词器。如果您希望将所有内容放在一个地方，您需要手动从原始模型的目录下载或复制分词器文件到低比特模型保存的位置。

llm_lowbit = IpexLLM.from_model_id_low_bit(
    model_id=saved_lowbit_model_path,
    tokenizer_id="lmsys/vicuna-7b-v1.5",
    # tokenizer_name=saved_lowbit_model_path,  # copy the tokenizers to saved path if you want to use it this way
    model_kwargs={
        "temperature": 0,
        "max_length": 64,
        "trust_remote_code": True,
        "device": "xpu",
    },
)

在Chains中使用加载的模型：

llm_chain = prompt | llm_lowbit


question = "What is AI?"
output = llm_chain.invoke(question)

IPEX-LLM 在 Intel CPU 上​

本示例介绍了如何使用LangChain与ipex-llm交互，以在Intel CPU上进行文本生成。

设置​

# Update Langchain

%pip install -qU langchain langchain-community

安装 IEPX-LLM 以在 Intel CPU 上本地运行 LLMs：

对于Windows用户：​

%pip install --pre --upgrade ipex-llm[all]

对于Linux用户：​

%pip install --pre --upgrade ipex-llm[all] --extra-index-url https://download.pytorch.org/whl/cpu

基本用法​

import warnings

from langchain.chains import LLMChain
from langchain_community.llms import IpexLLM
from langchain_core.prompts import PromptTemplate

warnings.filterwarnings("ignore", category=UserWarning, message=".*padding_mask.*")
API Reference:LLMChain | IpexLLM | PromptTemplate

为您的模型指定提示模板。在这个例子中，我们使用了vicuna-1.5模型。如果您使用的是不同的模型，请相应地选择合适的模板。

template = "USER: {question}\nASSISTANT:"
prompt = PromptTemplate(template=template, input_variables=["question"])

使用IpexLLM.from_model_id在本地加载模型。它将直接加载Huggingface格式的模型，并自动转换为低比特格式以进行推理。

llm = IpexLLM.from_model_id(
    model_id="lmsys/vicuna-7b-v1.5",
    model_kwargs={"temperature": 0, "max_length": 64, "trust_remote_code": True},
)

在链中使用它：

llm_chain = prompt | llm

question = "What is AI?"
output = llm_chain.invoke(question)

保存/加载低比特模型​

或者，您可以将低比特模型保存到磁盘一次，并使用from_model_id_low_bit而不是from_model_id来重新加载它以供以后使用——甚至在不同的机器上。这是空间高效的，因为低比特模型所需的磁盘空间比原始模型少得多。而且from_model_id_low_bit在速度和内存使用方面也比from_model_id更高效，因为它跳过了模型转换步骤。

要保存低比特模型，请使用 save_low_bit 如下：

saved_lowbit_model_path = "./vicuna-7b-1.5-low-bit"  # path to save low-bit model
llm.model.save_low_bit(saved_lowbit_model_path)
del llm

从保存的低比特模型路径加载模型如下。

请注意，低比特模型的保存路径仅包括模型本身，不包括分词器。如果您希望将所有内容放在一个地方，您需要手动从原始模型的目录下载或复制分词器文件到低比特模型保存的位置。

llm_lowbit = IpexLLM.from_model_id_low_bit(
    model_id=saved_lowbit_model_path,
    tokenizer_id="lmsys/vicuna-7b-v1.5",
    # tokenizer_name=saved_lowbit_model_path,  # copy the tokenizers to saved path if you want to use it this way
    model_kwargs={"temperature": 0, "max_length": 64, "trust_remote_code": True},
)

在Chains中使用加载的模型：

llm_chain = prompt | llm_lowbit


question = "What is AI?"
output = llm_chain.invoke(question)

这个页面有帮助吗？