llms#

实验性的LLM类提供了对大型语言模型(LLM)API和服务的访问。

llms.anthropic_functions.TagParser()

工具标签的解析器。

llms.jsonformer_decoder.JsonFormer

使用HuggingFace Pipeline API封装的Jsonformer LLM。

llms.llamaapi.ChatLlamaAPI

使用Llama API的聊天模型。

llms.lmformatenforcer_decoder.LMFormatEnforcer

使用HuggingFace Pipeline API封装的LMFormatEnforcer LLM。

llms.rellm_decoder.RELLM

使用HuggingFace Pipeline API封装的RELLM LLM。

函数

llms.jsonformer_decoder.import_jsonformer()

延迟导入 jsonformer 包。

llms.lmformatenforcer_decoder.import_lmformatenforcer()

延迟导入 lmformatenforcer 包。

llms.ollama_functions.convert_to_ollama_tool(tool)

将工具转换为Ollama工具。

llms.ollama_functions.parse_response(message)

AIMessage 中提取 function_call

llms.rellm_decoder.import_rellm()

懒加载导入rellm包。

已弃用的类