Llama内容格式化器#

class langchain_community.chat_models.azureml_endpoint.LlamaContentFormatter[source]#

LLaMA的内容格式化器。

属性

accepts

从端点返回的响应数据的MIME类型

content_type

传递给端点的输入数据的MIME类型

format_error_msg

supported_api_types

给定格式化程序支持的API。

方法

__init__()

escape_special_characters(prompt)

转义prompt中的任何特殊字符

format_request_payload(prompt, model_kwargs)

根据模型的输入模式格式化请求体。

format_response_payload(output[, api_type])

根据模型的输出模式格式化响应体。
__init__() → None[source]#
Return type:

无

static escape_special_characters(prompt: str) → str#

转义prompt中的任何特殊字符

Parameters:

提示 (字符串)

Return type:

字符串

format_request_payload(prompt: str, model_kwargs: Dict, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Any#

根据模型的输入模式格式化请求体。返回字节或可查找的文件类对象，格式由content_type请求头指定。

Parameters:
Return type:

任何

abstract format_response_payload(output: bytes, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Generation#

根据模型的输出模式格式化响应体。返回从响应中接收到的数据类型。

Parameters:
Return type:

Generation