CrateDB
CrateDB 是一个分布式且可扩展的 SQL 数据库,用于近乎实时地存储和分析大量数据,即使面对复杂的查询也能应对。它与 PostgreSQL 兼容,基于 Lucene,并继承了 Elasticsearch 的特性。
安装与设置
设置 CrateDB
有两种方法可以快速开始使用CrateDB。或者,选择其他CrateDB安装选项。
在本地机器上启动 CrateDB
示例:使用Docker或Podman运行一个禁用安全性的单节点CrateDB实例。不建议在生产环境中使用。
docker run --name=cratedb --rm \
--publish=4200:4200 --publish=5432:5432 --env=CRATE_HEAP_SIZE=2g \
crate:latest -Cdiscovery.type=single-node
在CrateDB云上部署集群
CrateDB Cloud 是一个托管的 CrateDB 服务。注册一个 免费试用。
安装客户端
安装最新版本的langchain-cratedb包 以及本教程所需的其他一些包。
pip install --upgrade langchain-cratedb langchain-openai unstructured
文档
有关CrateDB包装器的更详细演练,请参阅 使用LangChain与CrateDB。另请参阅CrateDB的所有功能 以了解CrateDB提供的其他功能。
功能
LangChain的CrateDB适配器提供了API,用于将CrateDB作为向量存储、文档加载器和聊天消息的存储。
向量存储
使用CrateDB的向量存储功能,围绕FLOAT_VECTOR
和KNN_MATCH
进行相似性搜索和其他用途。另请参阅CrateDBVectorStore教程。
确保您已配置有效的OpenAI API密钥。
export OPENAI_API_KEY=sk-XJZ...
from langchain_community.document_loaders import UnstructuredURLLoader
from langchain_cratedb import CrateDBVectorStore
from langchain_openai import OpenAIEmbeddings
from langchain.text_splitter import CharacterTextSplitter
loader = UnstructuredURLLoader(urls=["https://github.com/langchain-ai/langchain/raw/refs/tags/langchain-core==0.3.28/docs/docs/how_to/state_of_the_union.txt"])
documents = loader.load()
text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)
docs = text_splitter.split_documents(documents)
embeddings = OpenAIEmbeddings()
# Connect to a self-managed CrateDB instance on localhost.
CONNECTION_STRING = "crate://?schema=testdrive"
store = CrateDBVectorStore.from_documents(
documents=docs,
embedding=embeddings,
collection_name="state_of_the_union",
connection=CONNECTION_STRING,
)
query = "What did the president say about Ketanji Brown Jackson"
docs_with_score = store.similarity_search_with_score(query)
文档加载器
从CrateDB数据库表中加载文档,使用基于SQLAlchemy的文档加载器CrateDBLoader
。另请参阅CrateDBLoader教程。
要在您的应用程序中使用文档加载器:
import sqlalchemy as sa
from langchain_community.utilities import SQLDatabase
from langchain_cratedb import CrateDBLoader
# Connect to a self-managed CrateDB instance on localhost.
CONNECTION_STRING = "crate://?schema=testdrive"
db = SQLDatabase(engine=sa.create_engine(CONNECTION_STRING))
loader = CrateDBLoader(
'SELECT * FROM sys.summits LIMIT 42',
db=db,
)
documents = loader.load()
聊天消息历史
使用CrateDB作为聊天消息的存储。 另请参阅CrateDBChatMessageHistory教程。
要在您的应用程序中使用聊天消息历史记录:
from langchain_cratedb import CrateDBChatMessageHistory
# Connect to a self-managed CrateDB instance on localhost.
CONNECTION_STRING = "crate://?schema=testdrive"
message_history = CrateDBChatMessageHistory(
session_id="test-session",
connection=CONNECTION_STRING,
)
message_history.add_user_message("hi!")
完整缓存
标准/完整缓存在提供的提示与之前遇到的完全相同时,避免调用LLM。 另请参阅 CrateDBCache 示例。
要在您的应用程序中使用完整缓存:
import sqlalchemy as sa
from langchain.globals import set_llm_cache
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_cratedb import CrateDBCache
# Configure cache.
engine = sa.create_engine("crate://crate@localhost:4200/?schema=testdrive")
set_llm_cache(CrateDBCache(engine))
# Invoke LLM conversation.
llm = ChatOpenAI(
model_name="chatgpt-4o-latest",
temperature=0.7,
)
print()
print("Asking with full cache:")
answer = llm.invoke("What is the answer to everything?")
print(answer.content)
语义缓存
语义缓存允许用户根据用户输入与之前缓存输入之间的语义相似性检索缓存的提示。它还避免了在不需要时调用LLM。 另请参阅 CrateDBSemanticCache 示例。
要在您的应用程序中使用语义缓存:
import sqlalchemy as sa
from langchain.globals import set_llm_cache
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_cratedb import CrateDBSemanticCache
# Configure embeddings.
embeddings = OpenAIEmbeddings(model="text-embedding-3-small")
# Configure cache.
engine = sa.create_engine("crate://crate@localhost:4200/?schema=testdrive")
set_llm_cache(
CrateDBSemanticCache(
embedding=embeddings,
connection=engine,
search_threshold=1.0,
)
)
# Invoke LLM conversation.
llm = ChatOpenAI(model_name="chatgpt-4o-latest")
print()
print("Asking with semantic cache:")
answer = llm.invoke("What is the answer to everything?")
print(answer.content)