TitanTakeoffEmbed#
- class langchain_community.embeddings.titan_takeoff.TitanTakeoffEmbed(base_url: str = 'http://localhost', port: int = 3000, mgmt_port: int = 3001, models: List[ReaderConfig] = [])[source]#
与嵌入模型的Takeoff推理API接口。
使用它来发送嵌入请求,并使用Takeoff部署嵌入读取器。
示例
这是一个如何部署嵌入模型并发送请求的示例。
初始化Titan Takeoff嵌入包装器。
- Parameters:
base_url (str, optional) – Takeoff推理服务器所在的基础URL
"http (监听。默认为) – //localhost”.
port (int, optional) – Takeoff Inference API 监听的端口。
3000. (默认值为)
mgmt_port (int, optional) – Takeoff Management API 监听的端口。
3001. (默认值为)
models (List[ReaderConfig], optional) – 您想要启动的任何读取器。
[]. (默认为)
- Raises:
ImportError – 如果您尚未安装 takeoff-client,您将会遇到
ImportError。要解决此问题,请运行 pip install 'takeoff-client==0.4.0' –
属性
base_url
//localhost".
client
用于与Takeoff API交互的Takeoff Client Python SDK
embed_consumer_groups
Takeoff中包含嵌入模型的消费者组
mgmt_port
Titan Takeoff (Pro) 服务器的管理端口。
port
Titan Takeoff (Pro) 服务器的端口。
方法
__init__
([base_url, port, mgmt_port, models])初始化 Titan Takeoff 嵌入包装器。
aembed_documents
(texts)异步嵌入搜索文档。
aembed_query
(text)异步嵌入查询文本。
embed_documents
(texts[, consumer_group])嵌入文档。
embed_query
(text[, consumer_group])嵌入查询。
- __init__(base_url: str = 'http://localhost', port: int = 3000, mgmt_port: int = 3001, models: List[ReaderConfig] = [])[源代码]#
初始化Titan Takeoff嵌入包装器。
- Parameters:
base_url (str, optional) – Takeoff推理服务器所在的基础URL
"http (监听。默认为) – //localhost”.
port (int, optional) – Takeoff Inference API 监听的端口。
3000. (默认值为)
mgmt_port (int, optional) – Takeoff Management API 监听的端口。
3001. (默认值为)
models (List[ReaderConfig], optional) – 您想要启动的任何读取器。
[]. (默认为)
- Raises:
ImportError – 如果您尚未安装 takeoff-client,您将会遇到
ImportError。要解决此问题,请运行 pip install 'takeoff-client==0.4.0' –
- async aembed_documents(texts: list[str]) list[list[float]] #
异步嵌入搜索文档。
- Parameters:
文本 (列表[字符串]) – 要嵌入的文本列表。
- Returns:
嵌入列表。
- Return type:
列表[列表[浮点数]]
- async aembed_query(text: str) list[float] #
异步嵌入查询文本。
- Parameters:
文本 (str) – 要嵌入的文本。
- Returns:
嵌入。
- Return type:
列表[浮点数]
使用 TitanTakeoffEmbed 的示例