📄️ dspy.HFModel
在您的程序中使用所需的模型初始化 HFModel。以下是一个示例调用:
📄️ dspy.ChatModuleClient
先决条件
📄️ dspy.OllamaLocal
本文档内容改编自 https://github.com/insop 提供的文档。
📄️ dspy.HFClientTGI
先决条件
📄️ dspy.HFClientVLLM
设置 vLLM 服务器
DSPy supports various methods including `built-in wrappers`, `server integration`, and `external package integration` for model loading. This documentation provides a concise introduction on how to load in models within DSPy extending these capabilities for your specific needs.
在您的程序中使用所需的模型初始化 HFModel。以下是一个示例调用:
先决条件
本文档内容改编自 https://github.com/insop 提供的文档。
先决条件
设置 vLLM 服务器