chat_models#

聊天模型是语言模型的一种变体。

虽然聊天模型在底层使用语言模型,但它们暴露的接口有些不同。它们不是暴露一个“文本输入,文本输出”的API,而是暴露一个以“聊天消息”为输入和输出的接口。

类层次结构:

BaseLanguageModel --> BaseChatModel --> <name>  # Examples: ChatOpenAI, ChatGooglePalm

主要助手:

AIMessage, BaseMessage, HumanMessage

chat_models.anyscale.ChatAnyscale

Anyscale 聊天大语言模型。

chat_models.azureml_endpoint.AzureMLChatOnlineEndpoint

Azure ML 在线端点聊天模型。

chat_models.azureml_endpoint.CustomOpenAIChatContentFormatter()

用于具有类似OpenAI API方案的模型的聊天内容格式化器。

chat_models.azureml_endpoint.LlamaChatContentFormatter()

已弃用:保留以向后兼容

chat_models.azureml_endpoint.LlamaContentFormatter()

用于LLaMA的内容格式化器。

chat_models.azureml_endpoint.MistralChatContentFormatter()

Mistral 的内容格式化器。

chat_models.baichuan.ChatBaichuan

百川聊天模型集成。

chat_models.baidu_qianfan_endpoint.QianfanChatEndpoint

百度千帆聊天模型集成。

chat_models.bedrock.ChatPromptAdapter()

适配器类,用于将Langchain的输入准备为聊天模型期望的提示格式。

chat_models.cloudflare_workersai.ChatCloudflareWorkersAI

用于Cloudflare Workers AI的自定义聊天模型

chat_models.coze.ChatCoze

由coze.com提供的ChatCoze聊天模型API

chat_models.dappier.ChatDappierAI

Dappier 聊天大语言模型。

chat_models.deepinfra.ChatDeepInfra

一个使用DeepInfra API的聊天模型。

chat_models.deepinfra.ChatDeepInfraException

当DeepInfra API返回错误时引发的异常。

chat_models.edenai.ChatEdenAI

EdenAI 聊天大语言模型。

chat_models.everlyai.ChatEverlyAI

EverlyAI 聊天大语言模型。

chat_models.fake.FakeListChatModel

用于测试的假聊天模型。

chat_models.fake.FakeMessagesListChatModel

用于测试的假聊天模型。

chat_models.friendli.ChatFriendli

用于聊天的Friendli LLM。

chat_models.google_palm.ChatGooglePalm

Google PaLM 聊天模型 API。

chat_models.google_palm.ChatGooglePalmError

Google PaLM API 的错误。

chat_models.gpt_router.GPTRouter

GPTRouter 由 Writesonic Inc. 提供。

chat_models.gpt_router.GPTRouterException

GPTRouter APIs 错误

chat_models.gpt_router.GPTRouterModel

GPTRouter 模型。

chat_models.human.HumanInputChatModel

返回用户输入作为响应的ChatModel。

chat_models.hunyuan.ChatHunyuan

腾讯混元聊天模型API由腾讯提供。

chat_models.javelin_ai_gateway.ChatJavelinAIGateway

Javelin AI Gateway 聊天模型 API。

chat_models.javelin_ai_gateway.ChatParams

Javelin AI Gateway LLM 的参数。

chat_models.jinachat.JinaChat

Jina AI 聊天模型 API。

chat_models.kinetica.ChatKinetica

Kinetica LLM 聊天模型 API。

chat_models.kinetica.KineticaSqlOutputParser

从Kinetica LLM获取并返回数据。

chat_models.kinetica.KineticaSqlResponse

包含SQL和获取的数据的响应。

chat_models.kinetica.KineticaUtil()

Kinetica 实用函数。

chat_models.konko.ChatKonko

ChatKonko 聊天大语言模型 API。

chat_models.litellm.ChatLiteLLM

使用LiteLLM API的聊天模型。

chat_models.litellm.ChatLiteLLMException

LiteLLM I/O库相关的错误

chat_models.litellm_router.ChatLiteLLMRouter

LiteLLM 路由器作为 LangChain 模型。

chat_models.llama_edge.LlamaEdgeChatService

通过llama-api-server与LLMs聊天

chat_models.llamacpp.ChatLlamaCpp

llama.cpp 模型。

chat_models.maritalk.ChatMaritalk

MariTalk 聊天模型 API。

chat_models.maritalk.MaritalkHTTPError(...)

使用requestresponse对象初始化RequestException。

chat_models.minimax.MiniMaxChat

MiniMax 聊天模型集成。

chat_models.mlflow.ChatMlflow

MLflow 聊天模型 API。

chat_models.mlflow_ai_gateway.ChatMLflowAIGateway

MLflow AI Gateway 聊天模型 API。

chat_models.mlflow_ai_gateway.ChatParams

MLflow AI Gateway LLM 的参数。

chat_models.mlx.ChatMLX

MLX 聊天模型。

chat_models.moonshot.MoonshotChat

Moonshot 聊天模型集成。

chat_models.naver.ChatClovaX

NCP ClovaStudio 聊天完成 API。

chat_models.oci_data_science.ChatOCIModelDeployment

OCI 数据科学模型部署聊天模型集成。

chat_models.oci_data_science.ChatOCIModelDeploymentTGI

使用文本生成推理部署的OCI大型语言聊天模型。

chat_models.oci_data_science.ChatOCIModelDeploymentVLLM

使用vLLM部署的OCI大型语言聊天模型。

chat_models.oci_generative_ai.ChatOCIGenAI

ChatOCIGenAI 聊天模型集成。

chat_models.oci_generative_ai.CohereProvider()

chat_models.oci_generative_ai.MetaProvider()

chat_models.oci_generative_ai.Provider()

chat_models.octoai.ChatOctoAI

OctoAI 聊天大语言模型。

chat_models.outlines.ChatOutlines

Outlines 聊天模型集成。

chat_models.pai_eas_endpoint.PaiEasChatEndpoint

阿里云PAI-EAS LLM服务聊天模型API。

chat_models.perplexity.ChatPerplexity

Perplexity AI 聊天模型 API。

chat_models.premai.ChatPremAI

PremAI 聊天模型。

chat_models.premai.ChatPremAPIError

PremAI API相关的错误。

chat_models.promptlayer_openai.PromptLayerChatOpenAI

PromptLayerOpenAI 聊天大语言模型 API。

chat_models.reka.ChatReka

Reka 聊天大语言模型。

chat_models.sambanova.ChatSambaNovaCloud

SambaNova 云聊天模型。

chat_models.sambanova.ChatSambaStudio

SambaStudio 聊天模型。

chat_models.snowflake.ChatSnowflakeCortex

基于Snowflake Cortex的聊天模型

chat_models.snowflake.ChatSnowflakeCortexError

Snowpark 客户端错误。

chat_models.sparkllm.ChatSparkLLM

IFlyTek Spark 聊天模型集成。

chat_models.symblai_nebula.ChatNebula

Nebula 聊天大语言模型 - https://docs.symbl.ai/docs/nebula-llm

chat_models.tongyi.ChatTongyi

阿里巴巴通义千问聊天模型集成。

chat_models.volcengine_maas.VolcEngineMaasChat

Volc Engine Maas 托管了大量模型。

chat_models.writer.ChatWriter

Writer 聊天模型。

chat_models.yandex.ChatYandexGPT

YandexGPT 大型语言模型。

chat_models.yi.ChatYi

Yi 聊天模型 API。

chat_models.yuan2.ChatYuan2

Yuan2.0 聊天模型 API。

chat_models.zhipuai.ChatZhipuAI

ZhipuAI 聊天模型集成。

函数

chat_models.anthropic.convert_messages_to_prompt_anthropic(...)

将消息列表格式化为Anthropic模型的完整提示

chat_models.baichuan.aconnect_httpx_sse(...)

用于连接到SSE流的异步上下文管理器。

chat_models.baidu_qianfan_endpoint.convert_message_to_dict(message)

将消息转换为可以传递给API的字典。

chat_models.bedrock.convert_messages_to_prompt_mistral(...)

将消息列表转换为mistral的提示。

chat_models.cohere.get_cohere_chat_request(...)

获取Cohere聊天API的请求。

chat_models.cohere.get_role(message)

获取消息的角色。

chat_models.fireworks.acompletion_with_retry(...)

使用tenacity重试异步完成调用。

chat_models.fireworks.acompletion_with_retry_streaming(...)

使用tenacity重试流式调用的完成操作。

chat_models.fireworks.completion_with_retry(...)

使用tenacity重试完成调用。

chat_models.fireworks.conditional_decorator(...)

定义条件装饰器。

chat_models.fireworks.convert_dict_to_message(_dict)

将字典响应转换为消息。

chat_models.friendli.get_chat_request(messages)

获取Friendli聊天API的请求。

chat_models.friendli.get_role(message)

获取消息的角色。

chat_models.google_palm.achat_with_retry(...)

使用tenacity重试异步完成调用。

chat_models.google_palm.chat_with_retry(llm, ...)

使用tenacity重试完成调用。

chat_models.gpt_router.acompletion_with_retry(...)

使用tenacity重试异步完成调用。

chat_models.gpt_router.completion_with_retry(...)

使用tenacity重试完成调用。

chat_models.gpt_router.get_ordered_generation_requests(...)

返回模型路由器输入的正文。

chat_models.jinachat.acompletion_with_retry(...)

使用tenacity重试异步完成调用。

chat_models.litellm.acompletion_with_retry(llm)

使用tenacity重试异步完成调用。

chat_models.litellm_router.get_llm_output(...)

从使用情况和参数中获取llm输出。

chat_models.meta.convert_messages_to_prompt_llama(...)

将消息列表转换为llama的提示。

chat_models.minimax.aconnect_httpx_sse(...)

用于连接到SSE流的异步上下文管理器。

chat_models.minimax.connect_httpx_sse(...)

用于连接到SSE流的上下文管理器。

chat_models.openai.acompletion_with_retry(llm)

使用tenacity重试异步完成调用。

chat_models.premai.chat_with_retry(llm, ...)

在完成调用中使用tenacity进行重试

chat_models.premai.create_prem_retry_decorator(llm, *)

为PremAI API错误创建一个重试装饰器。

chat_models.reka.convert_to_reka_messages(...)

将LangChain消息转换为Reka消息格式。

chat_models.reka.process_content(content)

处理内容以处理文本和媒体输入,返回内容项列表。

chat_models.reka.process_content_item(item)

处理单个内容项。

chat_models.sparkllm.convert_dict_to_message(_dict)

chat_models.sparkllm.convert_message_to_dict(message)

chat_models.tongyi.convert_dict_to_message(_dict)

将字典转换为消息。

chat_models.tongyi.convert_message_chunk_to_message(...)

将消息块转换为消息。

chat_models.tongyi.convert_message_to_dict(message)

将消息转换为字典。

chat_models.volcengine_maas.convert_dict_to_message(_dict)

将字典转换为消息。

chat_models.yandex.acompletion_with_retry(...)

使用tenacity重试异步完成调用。

chat_models.yandex.completion_with_retry(...)

使用tenacity重试完成调用。

chat_models.yi.aconnect_httpx_sse(client, ...)

chat_models.yuan2.acompletion_with_retry(...)

使用tenacity重试异步完成调用。

chat_models.zhipuai.aconnect_sse(client, ...)

用于连接到SSE流的异步上下文管理器。

chat_models.zhipuai.connect_sse(client, ...)

用于连接到SSE流的上下文管理器。

已弃用的类