DSPy使用指南API接口Language Model API Clientsdspy.HFClientVLLM本页总览dspy.HFClientVLLM 用法 lm = dspy.HFClientVLLM(model="meta-llama/Llama-2-7b-hf", port=8080, url="http://localhost") 先决条件 请参考使用本地模型文档中的vLLM服务器部分。 构造函数 请参考dspy.TGI文档。将其替换为HFClientVLLM。 方法 请参考dspy.OpenAI文档。