ElasticKnn搜索#
- class langchain_community.vectorstores.elastic_vector_search.ElasticKnnSearch(index_name: str, embedding: Embeddings, es_connection: 'Elasticsearch' | None = None, es_cloud_id: str | None = None, es_user: str | None = None, es_password: str | None = None, vector_query_field: str | None = 'vector', query_field: str | None = 'text')[source]#
自版本0.0.1起已弃用:请改用
Use ElasticsearchStore class in langchain-elasticsearch package
。[已弃用] 使用k近邻搜索(k-NN)向量存储的Elasticsearch。
建议使用ElasticsearchStore,它支持元数据过滤、自定义查询检索器等功能!
你可以阅读更多关于ElasticsearchStore的内容: https://python.langchain.com/docs/integrations/vectorstores/elasticsearch
它创建了一个可以用于k-NN搜索的Elasticsearch文本数据索引。文本数据通过提供的嵌入模型转换为向量嵌入,这些嵌入存储在Elasticsearch索引中。
- Parameters:
index_name (str)
embedding (Embeddings)
es_connection (可选['Elasticsearch'])
es_cloud_id (可选[str])
es_user (可选[str])
es_password (可选[str])
vector_query_field (可选[str])
query_field (可选[str])
- index_name#
Elasticsearch 索引的名称。
- Type:
字符串
- embedding#
用于将文本数据转换为向量嵌入的嵌入模型。
- Type:
- es_connection#
一个现有的Elasticsearch连接。
- Type:
Elasticsearch,可选
- es_cloud_id#
您的Elasticsearch服务部署的云ID。
- Type:
字符串,可选
- es_user#
您的Elasticsearch服务部署的用户名。
- Type:
字符串,可选
- es_password#
您的Elasticsearch服务部署的密码。
- Type:
字符串,可选
- vector_query_field#
Elasticsearch索引中包含向量嵌入的字段名称。
- Type:
字符串,可选
- query_field#
Elasticsearch索引中包含原始文本数据的字段名称。
- Type:
字符串,可选
- Usage:
>>> from embeddings import Embeddings >>> embedding = Embeddings.load('glove') >>> es_search = ElasticKnnSearch('my_index', embedding) >>> es_search.add_texts(['Hello world!', 'Another text']) >>> results = es_search.knn_search('Hello') [(Document(page_content='Hello world!', metadata={}), 0.9)]
属性
embeddings
如果可用,访问查询嵌入对象。
方法
__init__
(index_name, embedding[, ...])aadd_documents
(documents, **kwargs)异步运行更多文档通过嵌入并添加到向量存储中。
aadd_texts
(texts[, metadatas, ids])异步运行更多文本通过嵌入并添加到向量存储中。
add_documents
(documents, **kwargs)在向量存储中添加或更新文档。
add_texts
(texts[, metadatas, model_id, ...])将一系列文本添加到Elasticsearch索引中。
adelete
([ids])异步删除通过向量ID或其他条件。
afrom_documents
(documents, embedding, **kwargs)异步返回从文档和嵌入初始化的VectorStore。
afrom_texts
(texts, embedding[, metadatas, ids])异步返回从文本和嵌入初始化的VectorStore。
aget_by_ids
(ids, /)异步通过ID获取文档。
amax_marginal_relevance_search
(query[, k, ...])异步返回使用最大边际相关性选择的文档。
异步返回使用最大边际相关性选择的文档。
as_retriever
(**kwargs)返回从此VectorStore初始化的VectorStoreRetriever。
asearch
(query, search_type, **kwargs)异步返回与查询最相似的文档,使用指定的搜索类型。
asimilarity_search
(query[, k])异步返回与查询最相似的文档。
asimilarity_search_by_vector
(embedding[, k])异步返回与嵌入向量最相似的文档。
异步返回文档和相关度分数,范围在[0, 1]之间。
asimilarity_search_with_score
(*args, **kwargs)异步运行带距离的相似性搜索。
create_knn_index
(mapping)在Elasticsearch中创建一个新的k-NN索引。
delete
([ids])通过向量ID或其他条件删除。
from_documents
(documents, embedding, **kwargs)返回从文档和嵌入初始化的VectorStore。
from_texts
(texts, embedding[, metadatas])创建一个新的 ElasticKnnSearch 实例并将一系列文本添加到其中
get_by_ids
(ids, /)通过ID获取文档。
knn_hybrid_search
([query, k, query_vector, ...])在Elasticsearch索引上执行混合k-NN和文本搜索。
knn_search
([query, k, query_vector, ...])在Elasticsearch索引上执行k-NN搜索。
max_marginal_relevance_search
(query[, k, ...])返回使用最大边际相关性选择的文档。
返回使用最大边际相关性选择的文档。
search
(query, search_type, **kwargs)使用指定的搜索类型返回与查询最相似的文档。
similarity_search
(query[, k, filter])传递给 knn_search
similarity_search_by_vector
(embedding[, k])返回与嵌入向量最相似的文档。
返回文档和相关度分数,范围在[0, 1]之间。
similarity_search_with_score
(query[, k])传递到knn_search 包括分数
- __init__(index_name: str, embedding: Embeddings, es_connection: 'Elasticsearch' | None = None, es_cloud_id: str | None = None, es_user: str | None = None, es_password: str | None = None, vector_query_field: str | None = 'vector', query_field: str | None = 'text')[来源]#
- Parameters:
index_name (str)
embedding (Embeddings)
es_connection (可选['Elasticsearch'])
es_cloud_id (可选[str])
es_user (可选[str])
es_password (可选[str])
vector_query_field (可选[str])
query_field (可选[str])
- async aadd_documents(documents: list[Document], **kwargs: Any) list[str] #
通过嵌入异步运行更多文档并将其添加到向量存储中。
- Parameters:
documents (list[Document]) – 要添加到向量存储中的文档。
kwargs (Any) – 额外的关键字参数。
- Returns:
已添加文本的ID列表。
- Raises:
ValueError – 如果ID的数量与文档的数量不匹配。
- Return type:
列表[字符串]
- async aadd_texts(texts: Iterable[str], metadatas: list[dict] | None = None, *, ids: list[str] | None = None, **kwargs: Any) list[str] #
异步运行更多文本通过嵌入并添加到向量存储中。
- Parameters:
texts (Iterable[str]) – 要添加到向量存储中的字符串的可迭代对象。
metadatas (list[dict] | None) – 可选的与文本关联的元数据列表。默认值为 None。
ids (list[str] | None) – 可选的列表
**kwargs (Any) – 向量存储特定参数。
- Returns:
将文本添加到向量存储中后的ID列表。
- Raises:
ValueError – 如果元数据的数量与文本的数量不匹配。
ValueError – 如果id的数量与文本的数量不匹配。
- Return type:
列表[字符串]
- add_documents(documents: list[Document], **kwargs: Any) list[str] #
在向量存储中添加或更新文档。
- Parameters:
documents (list[Document]) – 要添加到向量存储中的文档。
kwargs (Any) – 额外的关键字参数。 如果 kwargs 包含 ids 并且 documents 也包含 ids, kwargs 中的 ids 将优先。
- Returns:
已添加文本的ID列表。
- Raises:
ValueError – 如果id的数量与文档的数量不匹配。
- Return type:
列表[字符串]
- add_texts(texts: Iterable[str], metadatas: List[Dict[Any, Any]] | None = None, model_id: str | None = None, refresh_indices: bool = False, **kwargs: Any) List[str] [source]#
将一系列文本添加到Elasticsearch索引中。
- Parameters:
texts (Iterable[str]) – 要添加到索引中的文本。
metadatas (List[Dict[Any, Any]], optional) – 一个元数据字典列表,用于与文本关联。
model_id (str, optional) – 用于将文本转换为向量的模型的ID。
refresh_indices (bool, optional) – 是否在添加文本后刷新Elasticsearch索引。
**kwargs – 任意关键字参数。
- Returns:
添加文本的ID列表。
- Return type:
列表[str]
- async adelete(ids: list[str] | None = None, **kwargs: Any) bool | None #
通过向量ID或其他条件异步删除。
- Parameters:
ids (list[str] | None) – 要删除的id列表。如果为None,则删除所有。默认值为None。
**kwargs (Any) – 子类可能使用的其他关键字参数。
- Returns:
如果删除成功则为真, 否则为假,如果未实现则为无。
- Return type:
可选[布尔]
- async classmethod afrom_documents(documents: list[Document], embedding: Embeddings, **kwargs: Any) VST #
异步返回从文档和嵌入初始化的VectorStore。
- Parameters:
documents (list[Document]) – 要添加到向量存储中的文档列表。
embedding (Embeddings) – 使用的嵌入函数。
kwargs (Any) – 额外的关键字参数。
- Returns:
从文档和嵌入初始化的VectorStore。
- Return type:
- async classmethod afrom_texts(texts: list[str], embedding: Embeddings, metadatas: list[dict] | None = None, *, ids: list[str] | None = None, **kwargs: Any) VST #
异步返回从文本和嵌入初始化的VectorStore。
- Parameters:
texts (list[str]) – 要添加到向量存储中的文本。
embedding (Embeddings) – 使用的嵌入函数。
metadatas (list[dict] | None) – 可选的与文本关联的元数据列表。默认值为 None。
ids (list[str] | None) – 可选的与文本关联的ID列表。
kwargs (Any) – 额外的关键字参数。
- Returns:
VectorStore 从文本和嵌入初始化。
- Return type:
- async aget_by_ids(ids: Sequence[str], /) list[Document] #
通过ID异步获取文档。
返回的文档预计将具有ID字段,该字段设置为向量存储中文档的ID。
如果某些ID未找到或存在重复的ID,返回的文档数量可能少于请求的数量。
用户不应假设返回文档的顺序与输入ID的顺序相匹配。相反,用户应依赖返回文档的ID字段。
如果没有找到某些ID的文档,此方法不应引发异常。
- Parameters:
ids (Sequence[str]) – 要检索的ID列表。
- Returns:
文档列表。
- Return type:
列表[Document]
在版本0.2.11中添加。
- async amax_marginal_relevance_search(query: str, k: int = 4, fetch_k: int = 20, lambda_mult: float = 0.5, **kwargs: Any) list[Document] #
异步返回使用最大边际相关性选择的文档。
最大边际相关性优化了与查询的相似性和所选文档之间的多样性。
- Parameters:
query (str) – 用于查找相似文档的文本。
k (int) – 返回的文档数量。默认为4。
fetch_k (int) – 要传递给MMR算法的文档数量。 默认值为20。
lambda_mult (float) – 介于0和1之间的数字,决定了结果之间的多样性程度,0对应最大多样性,1对应最小多样性。默认值为0.5。
kwargs (Any)
- Returns:
通过最大边际相关性选择的文档列表。
- Return type:
列表[Document]
- async amax_marginal_relevance_search_by_vector(embedding: list[float], k: int = 4, fetch_k: int = 20, lambda_mult: float = 0.5, **kwargs: Any) list[Document] #
异步返回使用最大边际相关性选择的文档。
最大边际相关性优化了与查询的相似性和所选文档之间的多样性。
- Parameters:
embedding (list[float]) – 用于查找相似文档的嵌入。
k (int) – 返回的文档数量。默认为4。
fetch_k (int) – 要传递给MMR算法的文档数量。 默认值为20。
lambda_mult (float) – 介于0和1之间的数字,决定了结果之间的多样性程度,0对应最大多样性,1对应最小多样性。默认值为0.5。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
通过最大边际相关性选择的文档列表。
- Return type:
列表[Document]
- as_retriever(**kwargs: Any) VectorStoreRetriever #
返回从此VectorStore初始化的VectorStoreRetriever。
- Parameters:
**kwargs (Any) –
传递给搜索函数的关键字参数。 可以包括: search_type (Optional[str]): 定义检索器应执行的搜索类型。 可以是“similarity”(默认)、“mmr”或“similarity_score_threshold”。
检索器应执行的搜索类型。 可以是“similarity”(默认)、“mmr”或“similarity_score_threshold”。
- search_kwargs (Optional[Dict]): 传递给搜索函数的关键字参数。
- 可以包括以下内容:
k: 返回的文档数量(默认:4) score_threshold: 最小相关性阈值
用于similarity_score_threshold
- fetch_k: 传递给MMR算法的文档数量
(默认:20)
- lambda_mult: MMR返回结果的多样性;
1表示最小多样性,0表示最大多样性。(默认:0.5)
filter: 按文档元数据过滤
- Returns:
VectorStore的检索器类。
- Return type:
示例:
# Retrieve more documents with higher diversity # Useful if your dataset has many similar documents docsearch.as_retriever( search_type="mmr", search_kwargs={'k': 6, 'lambda_mult': 0.25} ) # Fetch more documents for the MMR algorithm to consider # But only return the top 5 docsearch.as_retriever( search_type="mmr", search_kwargs={'k': 5, 'fetch_k': 50} ) # Only retrieve documents that have a relevance score # Above a certain threshold docsearch.as_retriever( search_type="similarity_score_threshold", search_kwargs={'score_threshold': 0.8} ) # Only get the single most similar document from the dataset docsearch.as_retriever(search_kwargs={'k': 1}) # Use a filter to only retrieve documents from a specific paper docsearch.as_retriever( search_kwargs={'filter': {'paper_title':'GPT-4 Technical Report'}} )
- async asearch(query: str, search_type: str, **kwargs: Any) list[Document] #
异步返回与查询最相似的文档,使用指定的搜索类型。
- Parameters:
query (str) – 输入文本。
search_type (str) – 要执行的搜索类型。可以是“similarity”、“mmr”或“similarity_score_threshold”。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
与查询最相似的文档列表。
- Raises:
ValueError – 如果 search_type 不是 “similarity”、“mmr” 或 “similarity_score_threshold” 之一。
- Return type:
列表[Document]
- async asimilarity_search(query: str, k: int = 4, **kwargs: Any) list[Document] #
异步返回与查询最相似的文档。
- Parameters:
query (str) – 输入文本。
k (int) – 返回的文档数量。默认为4。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
与查询最相似的文档列表。
- Return type:
列表[Document]
- async asimilarity_search_by_vector(embedding: list[float], k: int = 4, **kwargs: Any) list[Document] #
异步返回与嵌入向量最相似的文档。
- Parameters:
embedding (list[float]) – 用于查找相似文档的嵌入。
k (int) – 返回的文档数量。默认为4。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
与查询向量最相似的文档列表。
- Return type:
列表[Document]
- async asimilarity_search_with_relevance_scores(query: str, k: int = 4, **kwargs: Any) list[tuple[Document, float]] #
异步返回文档和相关度分数,范围在[0, 1]之间。
0 表示不相似,1 表示最相似。
- Parameters:
query (str) – 输入文本。
k (int) – 返回的文档数量。默认为4。
**kwargs (Any) –
传递给相似性搜索的kwargs。应包括: score_threshold: 可选,一个介于0到1之间的浮点值
过滤检索到的文档集
- Returns:
(文档,相似度分数)的元组列表
- Return type:
列表[元组[Document, 浮点数]]
- async asimilarity_search_with_score(*args: Any, **kwargs: Any) list[tuple[Document, float]] #
异步运行带有距离的相似性搜索。
- Parameters:
*args (Any) – 传递给搜索方法的参数。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
(文档, 相似度分数) 的元组列表。
- Return type:
列表[元组[Document, 浮点数]]
- create_knn_index(mapping: Dict) None [source]#
在Elasticsearch中创建一个新的k-NN索引。
- Parameters:
mapping (Dict) – 用于新索引的映射。
- Returns:
无
- Return type:
无
- delete(ids: list[str] | None = None, **kwargs: Any) bool | None #
根据向量ID或其他条件删除。
- Parameters:
ids (list[str] | None) – 要删除的id列表。如果为None,则删除所有。默认值为None。
**kwargs (Any) – 子类可能使用的其他关键字参数。
- Returns:
如果删除成功则为真, 否则为假,如果未实现则为无。
- Return type:
可选[布尔]
- classmethod from_documents(documents: list[Document], embedding: Embeddings, **kwargs: Any) VST #
返回从文档和嵌入初始化的VectorStore。
- Parameters:
documents (list[Document]) – 要添加到向量存储中的文档列表。
embedding (Embeddings) – 使用的嵌入函数。
kwargs (Any) – 额外的关键字参数。
- Returns:
从文档和嵌入初始化的VectorStore。
- Return type:
- classmethod from_texts(texts: List[str], embedding: Embeddings, metadatas: List[Dict[Any, Any]] | None = None, **kwargs: Any) ElasticKnnSearch [source]#
- Create a new ElasticKnnSearch instance and add a list of texts to the
Elasticsearch 索引。
- Parameters:
texts (List[str]) – 要添加到索引中的文本。
embedding (Embeddings) – 用于将文本转换为向量的嵌入模型。
metadatas (List[Dict[Any, Any]], optional) – 一个元数据字典列表,用于与文本关联。
**kwargs – 任意关键字参数。
- Returns:
一个新的 ElasticKnnSearch 实例。
- Return type:
- get_by_ids(ids: Sequence[str], /) list[Document] #
通过ID获取文档。
返回的文档预计将具有ID字段,该字段设置为向量存储中文档的ID。
如果某些ID未找到或存在重复的ID,返回的文档数量可能少于请求的数量。
用户不应假设返回文档的顺序与输入ID的顺序相匹配。相反,用户应依赖返回文档的ID字段。
如果没有找到某些ID的文档,此方法不应引发异常。
- Parameters:
ids (Sequence[str]) – 要检索的ID列表。
- Returns:
文档列表。
- Return type:
列表[Document]
在版本0.2.11中添加。
- knn_hybrid_search(query: str | None = None, k: int | None = 10, query_vector: List[float] | None = None, model_id: str | None = None, size: int | None = 10, source: bool | None = True, knn_boost: float | None = 0.9, query_boost: float | None = 0.1, fields: List[Mapping[str, Any]] | Tuple[Mapping[str, Any], ...] | None = None, page_content: str | None = 'text') List[Tuple[Document, float]] [source]#
在Elasticsearch索引上执行混合k-NN和文本搜索。
- Parameters:
query (str, optional) – 要搜索的查询文本。
k (int, optional) – 返回的最近邻居的数量。
query_vector (List[float], optional) – 要搜索的查询向量。
model_id (str, optional) – 用于将查询文本转换为向量的模型的ID。
size (int, optional) – 返回的搜索结果数量。
source (bool, optional) – 是否返回搜索结果的来源。
knn_boost (float, optional) – 应用于k-NN搜索结果的提升值。
query_boost (float, optional) – 应用于文本搜索结果的提升值。
fields (List[Mapping[str, Any]], optional) – 要在搜索结果中返回的字段。
page_content (str, optional) – 包含页面内容的字段名称。
- Returns:
一个元组列表,其中每个元组包含一个Document对象和一个分数。
- Return type:
列表[元组[文档, 浮点数]]
- knn_search(query: str | None = None, k: int | None = 10, query_vector: List[float] | None = None, model_id: str | None = None, size: int | None = 10, source: bool | None = True, fields: List[Mapping[str, Any]] | Tuple[Mapping[str, Any], ...] | None = None, page_content: str | None = 'text') List[Tuple[Document, float]] [来源]#
在Elasticsearch索引上执行k-NN搜索。
- Parameters:
query (str, optional) – 要搜索的查询文本。
k (int, optional) – 返回的最近邻居的数量。
query_vector (List[float], optional) – 要搜索的查询向量。
model_id (str, optional) – 用于将查询文本转换为向量的模型的ID。
size (int, optional) – 返回的搜索结果数量。
source (bool, optional) – 是否返回搜索结果的来源。
fields (List[Mapping[str, Any]], optional) – 要在搜索结果中返回的字段。
page_content (str, optional) – 包含页面内容的字段名称。
- Returns:
一个元组列表,其中每个元组包含一个Document对象和一个分数。
- Return type:
列表[元组[文档, 浮点数]]
- max_marginal_relevance_search(query: str, k: int = 4, fetch_k: int = 20, lambda_mult: float = 0.5, **kwargs: Any) list[Document] #
返回使用最大边际相关性选择的文档。
最大边际相关性优化了与查询的相似性和所选文档之间的多样性。
- Parameters:
query (str) – 用于查找相似文档的文本。
k (int) – 返回的文档数量。默认为4。
fetch_k (int) – 要传递给MMR算法的文档数量。 默认值为20。
lambda_mult (float) – 介于0和1之间的数字,决定了结果之间的多样性程度,0对应最大多样性,1对应最小多样性。默认值为0.5。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
通过最大边际相关性选择的文档列表。
- Return type:
列表[Document]
- max_marginal_relevance_search_by_vector(embedding: list[float], k: int = 4, fetch_k: int = 20, lambda_mult: float = 0.5, **kwargs: Any) list[Document] #
返回使用最大边际相关性选择的文档。
最大边际相关性优化了与查询的相似性和所选文档之间的多样性。
- Parameters:
embedding (list[float]) – 用于查找相似文档的嵌入。
k (int) – 返回的文档数量。默认为4。
fetch_k (int) – 要传递给MMR算法的文档数量。 默认值为20。
lambda_mult (float) – 介于0和1之间的数字,决定了结果之间的多样性程度,0对应最大多样性,1对应最小多样性。默认值为0.5。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
通过最大边际相关性选择的文档列表。
- Return type:
列表[Document]
- search(query: str, search_type: str, **kwargs: Any) list[Document] #
使用指定的搜索类型返回与查询最相似的文档。
- Parameters:
query (str) – 输入文本
search_type (str) – 要执行的搜索类型。可以是“similarity”、“mmr”或“similarity_score_threshold”。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
与查询最相似的文档列表。
- Raises:
ValueError – 如果 search_type 不是 “similarity”、“mmr” 或 “similarity_score_threshold” 之一。
- Return type:
列表[Document]
- similarity_search(query: str, k: int = 4, filter: dict | None = None, **kwargs: Any) List[Document] [source]#
传递到 knn_search
- Parameters:
query (str)
k (整数)
filter (字典 | 无)
kwargs (Any)
- Return type:
列表[文档]
- similarity_search_by_vector(embedding: list[float], k: int = 4, **kwargs: Any) list[Document] #
返回与嵌入向量最相似的文档。
- Parameters:
embedding (list[float]) – 用于查找相似文档的嵌入。
k (int) – 返回的文档数量。默认为4。
**kwargs (Any) – 传递给搜索方法的参数。
- Returns:
与查询向量最相似的文档列表。
- Return type:
列表[Document]
- similarity_search_with_relevance_scores(query: str, k: int = 4, **kwargs: Any) list[tuple[Document, float]] #
返回文档和相关度分数,范围在[0, 1]之间。
0 表示不相似,1 表示最相似。
- Parameters:
query (str) – 输入文本。
k (int) – 返回的文档数量。默认为4。
**kwargs (Any) –
传递给相似性搜索的kwargs。应包括: score_threshold: 可选,一个介于0到1之间的浮点值
用于过滤检索到的文档集。
- Returns:
(文档, 相似度分数) 的元组列表。
- Return type:
列表[元组[Document, 浮点数]]