viking DB
viking DB 是一个数据库,用于存储、索引和管理由深度神经网络和其他机器学习(ML)模型生成的大规模嵌入向量。
本笔记本展示了如何使用与VikingDB向量数据库相关的功能。
你需要安装 langchain-community
使用 pip install -qU langchain-community
来使用这个集成
要运行,您应该有一个viking DB实例已启动并运行。
!pip install --upgrade volcengine
我们想要使用VikingDBEmbeddings,所以我们必须获取VikingDB API密钥。
import getpass
import os
if "OPENAI_API_KEY" not in os.environ:
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")
from langchain_community.document_loaders import TextLoader
from langchain_community.vectorstores.vikingdb import VikingDB, VikingDBConfig
from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter
API Reference:TextLoader | VikingDB | VikingDBConfig | OpenAIEmbeddings | RecursiveCharacterTextSplitter
loader = TextLoader("./test.txt")
documents = loader.load()
text_splitter = RecursiveCharacterTextSplitter(chunk_size=10, chunk_overlap=0)
docs = text_splitter.split_documents(documents)
embeddings = OpenAIEmbeddings()
db = VikingDB.from_documents(
docs,
embeddings,
connection_args=VikingDBConfig(
host="host", region="region", ak="ak", sk="sk", scheme="http"
),
drop_old=True,
)
query = "What did the president say about Ketanji Brown Jackson"
docs = db.similarity_search(query)
docs[0].page_content
使用Viking DB集合对数据进行分区
您可以在同一个viking DB实例中的不同集合中存储不同的不相关文档,以保持上下文
以下是创建新集合的方法
db = VikingDB.from_documents(
docs,
embeddings,
connection_args=VikingDBConfig(
host="host", region="region", ak="ak", sk="sk", scheme="http"
),
collection_name="collection_1",
drop_old=True,
)
以下是如何检索存储的集合
db = VikingDB.from_documents(
embeddings,
connection_args=VikingDBConfig(
host="host", region="region", ak="ak", sk="sk", scheme="http"
),
collection_name="collection_1",
)
检索后,您可以像往常一样继续查询。