dspy.Together

用法

lm = dspy.Together(model="mistralai/Mistral-7B-v0.1")

构造函数

构造函数初始化基类 LM 并验证使用 Together API 的 api_key。 我们期望以下环境变量已设置好：

• TOGETHER_API_KEY: Together 的 API 密钥。
• TOGETHER_API_BASE: Together 的 API 基本 URL。

class Together(HFModel):
    def __init__(self, model, **kwargs):

参数:

• model (str): 托管在 Together 上的模型。
• stop (List[str], optional): 用于结束生成的停止标记列表。

方法

请参考 dspy.OpenAI 文档。