Skip to main content
Open In ColabOpen on GitHub

SingleStoreDB

SingleStoreDB 是一个强大、高性能的分布式 SQL 数据库解决方案,旨在在和本地环境中表现出色。它拥有多功能特性集,提供无缝部署选项,同时提供无与伦比的性能。

SingleStoreDB的一个突出特点是其对向量存储和操作的高级支持,使其成为需要复杂AI功能(如文本相似性匹配)应用的理想选择。通过内置的向量函数,如dot_producteuclidean_distance,SingleStoreDB使开发者能够高效地实现复杂的算法。

对于热衷于在SingleStoreDB中利用向量数据的开发者,有一份全面的教程可供参考,该教程将引导他们深入了解处理向量数据的复杂性。本教程深入探讨了SingleStoreDB中的向量存储,展示了其基于向量相似性进行搜索的能力。利用向量索引,可以以惊人的速度执行查询,从而快速检索相关数据。

此外,SingleStoreDB的向量存储与基于Lucene的全文索引无缝集成,实现了强大的文本相似性搜索。用户可以根据文档元数据对象的选定字段过滤搜索结果,从而提高查询的精确度。

SingleStoreDB的独特之处在于它能够以各种方式结合向量和全文搜索,提供灵活性和多功能性。无论是通过文本或向量相似性进行预过滤并选择最相关的数据,还是采用加权和的方法来计算最终的相似性评分,开发者都有多种选择可供使用。

本质上,SingleStoreDB 提供了一个全面的解决方案,用于管理和查询向量数据,为 AI 驱动的应用程序提供了无与伦比的性能和灵活性。

你需要安装 langchain-community 使用 pip install -qU langchain-community 来使用这个集成

# Establishing a connection to the database is facilitated through the singlestoredb Python connector.
# Please ensure that this connector is installed in your working environment.
%pip install --upgrade --quiet singlestoredb
import getpass
import os

# We want to use OpenAIEmbeddings so we have to get the OpenAI API Key.
if "OPENAI_API_KEY" not in os.environ:
os.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")
from langchain_community.vectorstores import SingleStoreDB
from langchain_community.vectorstores.utils import DistanceStrategy
from langchain_core.documents import Document
from langchain_openai import OpenAIEmbeddings
# loading docs
# we will use some artificial data for this example
docs = [
Document(
page_content="""In the parched desert, a sudden rainstorm brought relief,
as the droplets danced upon the thirsty earth, rejuvenating the landscape
with the sweet scent of petrichor.""",
metadata={"category": "rain"},
),
Document(
page_content="""Amidst the bustling cityscape, the rain fell relentlessly,
creating a symphony of pitter-patter on the pavement, while umbrellas
bloomed like colorful flowers in a sea of gray.""",
metadata={"category": "rain"},
),
Document(
page_content="""High in the mountains, the rain transformed into a delicate
mist, enveloping the peaks in a mystical veil, where each droplet seemed to
whisper secrets to the ancient rocks below.""",
metadata={"category": "rain"},
),
Document(
page_content="""Blanketing the countryside in a soft, pristine layer, the
snowfall painted a serene tableau, muffling the world in a tranquil hush
as delicate flakes settled upon the branches of trees like nature's own
lacework.""",
metadata={"category": "snow"},
),
Document(
page_content="""In the urban landscape, snow descended, transforming
bustling streets into a winter wonderland, where the laughter of
children echoed amidst the flurry of snowballs and the twinkle of
holiday lights.""",
metadata={"category": "snow"},
),
Document(
page_content="""Atop the rugged peaks, snow fell with an unyielding
intensity, sculpting the landscape into a pristine alpine paradise,
where the frozen crystals shimmered under the moonlight, casting a
spell of enchantment over the wilderness below.""",
metadata={"category": "snow"},
),
]

embeddings = OpenAIEmbeddings()

有几种方法可以建立到数据库的连接。您可以设置环境变量或将命名参数传递给SingleStoreDB constructor。或者,您可以将这些参数提供给from_documentsfrom_texts方法。

# Setup connection url as environment variable
os.environ["SINGLESTOREDB_URL"] = "root:pass@localhost:3306/db"

# Load documents to the store
docsearch = SingleStoreDB.from_documents(
docs,
embeddings,
table_name="notebook", # use table with a custom name
)
query = "trees in the snow"
docs = docsearch.similarity_search(query) # Find documents that correspond to the query
print(docs[0].page_content)

SingleStoreDB通过允许用户基于元数据字段进行预过滤来增强和优化搜索结果,从而提升了搜索能力。此功能使开发人员和数据分析师能够微调查询,确保搜索结果精确地满足他们的需求。通过使用特定的元数据属性过滤搜索结果,用户可以缩小查询范围,仅关注相关的数据子集。

query = "trees branches"
docs = docsearch.similarity_search(
query, filter={"category": "snow"}
) # Find documents that correspond to the query and has category "snow"
print(docs[0].page_content)

通过利用ANN向量索引,提升您在SingleStore DB 8.5及以上版本中的搜索效率。在创建向量存储对象时,通过设置use_vector_index=True,您可以激活此功能。此外,如果您的向量维度与默认的OpenAI嵌入大小1536不同,请确保相应地指定vector_size参数。

SingleStoreDB 提供了多种搜索策略,每种策略都经过精心设计,以满足特定的使用场景和用户偏好。默认的 VECTOR_ONLY 策略使用向量操作,如 dot_producteuclidean_distance,直接计算向量之间的相似度分数,而 TEXT_ONLY 则采用基于 Lucene 的全文搜索,特别适用于以文本为中心的应用。对于寻求平衡方法的用户,FILTER_BY_TEXT 首先基于文本相似性筛选结果,然后进行向量比较,而 FILTER_BY_VECTOR 则优先考虑向量相似性,在评估文本相似性之前过滤结果以获得最佳匹配。值得注意的是,FILTER_BY_TEXTFILTER_BY_VECTOR 都需要全文索引才能运行。此外,WEIGHTED_SUM 作为一种复杂的策略,通过加权向量和文本相似性来计算最终的相似度分数,尽管它仅使用 dot_product 距离计算,并且也需要全文索引。这些多样化的策略使用户能够根据其独特需求微调搜索,从而实现高效和精确的数据检索和分析。此外,SingleStoreDB 的混合方法,如 FILTER_BY_TEXTFILTER_BY_VECTORWEIGHTED_SUM 策略,无缝结合了向量和基于文本的搜索,以最大限度地提高效率和准确性,确保用户能够充分利用该平台的功能,适用于广泛的应用场景。

docsearch = SingleStoreDB.from_documents(
docs,
embeddings,
distance_strategy=DistanceStrategy.DOT_PRODUCT, # Use dot product for similarity search
use_vector_index=True, # Use vector index for faster search
use_full_text_search=True, # Use full text index
)

vectorResults = docsearch.similarity_search(
"rainstorm in parched desert, rain",
k=1,
search_strategy=SingleStoreDB.SearchStrategy.VECTOR_ONLY,
filter={"category": "rain"},
)
print(vectorResults[0].page_content)

textResults = docsearch.similarity_search(
"rainstorm in parched desert, rain",
k=1,
search_strategy=SingleStoreDB.SearchStrategy.TEXT_ONLY,
)
print(textResults[0].page_content)

filteredByTextResults = docsearch.similarity_search(
"rainstorm in parched desert, rain",
k=1,
search_strategy=SingleStoreDB.SearchStrategy.FILTER_BY_TEXT,
filter_threshold=0.1,
)
print(filteredByTextResults[0].page_content)

filteredByVectorResults = docsearch.similarity_search(
"rainstorm in parched desert, rain",
k=1,
search_strategy=SingleStoreDB.SearchStrategy.FILTER_BY_VECTOR,
filter_threshold=0.1,
)
print(filteredByVectorResults[0].page_content)

weightedSumResults = docsearch.similarity_search(
"rainstorm in parched desert, rain",
k=1,
search_strategy=SingleStoreDB.SearchStrategy.WEIGHTED_SUM,
text_weight=0.2,
vector_weight=0.8,
)
print(weightedSumResults[0].page_content)

多模态示例:利用CLIP和OpenClip嵌入

在多模态数据分析领域,整合图像和文本等多样化信息类型变得越来越重要。促进这种整合的一个强大工具是CLIP,这是一种能够将图像和文本嵌入到共享语义空间中的尖端模型。通过这样做,CLIP能够通过相似性搜索在不同模态之间检索相关内容。

为了说明这一点,让我们考虑一个应用场景,我们的目标是有效分析多模态数据。在这个例子中,我们利用了OpenClip多模态嵌入的能力,它利用了CLIP的框架。通过OpenClip,我们可以无缝地将文本描述与相应的图像嵌入,从而实现全面的分析和检索任务。无论是基于文本查询识别视觉上相似的图像,还是找到与特定视觉内容相关的文本段落,OpenClip都能使用户以显著的效率和准确性探索和提取多模态数据的洞察。

%pip install -U langchain openai singlestoredb langchain-experimental # (newest versions required for multi-modal)
import os

from langchain_community.vectorstores import SingleStoreDB
from langchain_experimental.open_clip import OpenCLIPEmbeddings

os.environ["SINGLESTOREDB_URL"] = "root:pass@localhost:3306/db"

TEST_IMAGES_DIR = "../../modules/images"

docsearch = SingleStoreDB(OpenCLIPEmbeddings())

image_uris = sorted(
[
os.path.join(TEST_IMAGES_DIR, image_name)
for image_name in os.listdir(TEST_IMAGES_DIR)
if image_name.endswith(".jpg")
]
)

# Add images
docsearch.add_images(uris=image_uris)

这个页面有帮助吗?