LocalAI
LocalAI 是免费的、开源的 OpenAI 替代品。
LocalAI作为一个即插即用的 REST API 替代品，与 OpenAI API 规范兼容，用于本地推理。它允许你在本地或本地使用消费级硬件运行 LLMs、生成图像、音频（不仅限于此），支持多种模型系列和架构。
caution
为了确保兼容性，请确保您使用的是openai SDK版本0.x。
info
langchain-localai 是一个用于 LocalAI 的第三方集成包。它提供了一种简单的方法在 Langchain 中使用 LocalAI 服务。
源代码可在 Github 上找到。
安装与设置
我们需要安装几个python包：
pip install tenacity openai
嵌入模型
查看使用示例。
from langchain_localai import LocalAIEmbeddings