自定义OpenAI聊天内容格式化器

class langchain_community.chat_models.azureml_endpoint.CustomOpenAIChatContentFormatter

适用于具有类似OpenAI API方案的模型的聊天内容格式化器。

属性

SUPPORTED_ROLES
accepts	从端点返回的响应数据的MIME类型
content_type	传递给端点的输入数据的MIME类型
format_error_msg
supported_api_types	给定格式化程序支持的API。

方法

escape_special_characters(prompt)	转义prompt中的任何特殊字符
format_messages_request_payload(messages, ...)	根据所选的API格式化请求
format_request_payload(prompt, model_kwargs)	根据模型的输入模式格式化请求体。
format_response_payload(output[, api_type])	格式化响应

static escape_special_characters(prompt: str) → str

转义prompt中的任何特殊字符

Parameters:

提示 (字符串)

Return type:

字符串

format_messages_request_payload(messages: List[BaseMessage], model_kwargs: Dict, api_type: AzureMLEndpointApiType) → bytes

根据选择的API格式化请求

Parameters:

• messages (List[BaseMessage])

• model_kwargs (Dict)

• api_type (AzureMLEndpointApiType)

Return type:

字节

format_request_payload(prompt: str, model_kwargs: Dict, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → Any

根据模型的输入模式格式化请求体。返回字节或可查找的文件类对象，格式由content_type请求头指定。

Parameters:

• prompt (str)

• model_kwargs (Dict)

• api_type (AzureMLEndpointApiType)

Return type:

任何

format_response_payload(output: bytes, api_type: AzureMLEndpointApiType = AzureMLEndpointApiType.dedicated) → ChatGeneration

格式化响应

Parameters:

• 输出 (字节)

• api_type (AzureMLEndpointApiType)

Return type:

ChatGeneration

使用 CustomOpenAIChatContentFormatter 的示例

• AzureMLChatOnlineEndpoint