AscendEmbeddings#

class langchain_community.embeddings.ascend.AscendEmbeddings[source]#

基础类: Embeddings, BaseModel

Ascend NPU加速嵌入模型

请确保您已安装CANN和torch_npu。

示例：

从 langchain_community.embeddings 导入 AscendEmbeddings model = AscendEmbeddings(model_path=,

device_id=0, query_instruction="表示此句子以搜索相关段落："

)

param device_id: int = 0#

用于嵌入查询的Unstruntion。

param document_instruction: str = ''#
param model: Any [Required]#
param model_path: str [Required]#

Ascend NPU 设备 ID。

param pooling_method: str | None = 'cls'#
param query_instruction: str = ''#

用于嵌入文档的Unstruntion。

param tokenizer: Any [Required]#
param use_fp16: bool = True#
async aembed_documents(texts: list[str]) → list[list[float]]#

异步嵌入搜索文档。

Parameters:

文本 (列表[字符串]) – 要嵌入的文本列表。

Returns:

嵌入列表。

Return type:

列表[列表[浮点数]]

async aembed_query(text: str) → list[float]#

异步嵌入查询文本。

Parameters:

文本 (str) – 要嵌入的文本。

Returns:

嵌入。

Return type:

列表[浮点数]

embed_documents(texts: List[str]) → List[List[float]][source]#

嵌入搜索文档。

Parameters:

文本 (列表[字符串]) – 要嵌入的文本列表。

Returns:

嵌入列表。

Return type:

列表[列表[float]]

embed_query(text: str) → List[float][source]#

嵌入查询文本。

Parameters:

文本 (str) – 要嵌入的文本。

Returns:

嵌入。

Return type:

列表[float]

encode(sentences: Any) → Any[source]#
Parameters:

句子 (任意)

Return type:

任何

pooling(last_hidden_state: Any, attention_mask: Any = None) → Any[source]#
Parameters:

  • last_hidden_state (Any)

  • attention_mask (Any)

Return type:

任何

使用 AscendEmbeddings 的示例