ChatOctoAI
OctoAI 提供便捷的高效计算访问，使用户能够将他们选择的AI模型集成到应用程序中。OctoAI 计算服务帮助您轻松运行、调整和扩展AI应用程序。
本笔记本演示了如何使用langchain.chat_models.ChatOctoAI来访问OctoAI端点。
设置
要运行我们的示例应用程序，有两个简单的步骤需要采取：
-
从您的OctoAI账户页面获取API令牌。
-
在下面的代码单元格中粘贴您的API令牌，或使用
octoai_api_token关键字参数。
注意：如果你想使用不同于可用模型的模型，你可以将模型容器化，并通过遵循从Python构建容器和从容器创建自定义端点来自己创建一个自定义的OctoAI端点，然后更新你的OCTOAI_API_BASE环境变量。
import os
os.environ["OCTOAI_API_TOKEN"] = "OCTOAI_API_TOKEN"
from langchain_community.chat_models import ChatOctoAI
from langchain_core.messages import HumanMessage, SystemMessage
示例
chat = ChatOctoAI(max_tokens=300, model_name="mixtral-8x7b-instruct")
messages = [
SystemMessage(content="You are a helpful assistant."),
HumanMessage(content="Tell me about Leonardo da Vinci briefly."),
]
print(chat(messages).content)
列奥纳多·达·芬奇（1452-1519）是一位意大利博学者，常被认为是历史上最伟大的画家之一。然而，他的天才远不止于艺术。他还是一位科学家、发明家、数学家、工程师、解剖学家、地质学家和制图师。
达芬奇最著名的画作包括《蒙娜丽莎》、《最后的晚餐》和《岩间圣母》。他的科学研究超前于他的时代，他的笔记本中包含了各种机器、人体解剖和自然现象的详细绘图和描述。
尽管从未接受过正规教育，达芬奇无尽的求知欲和观察能力使他在许多领域成为先驱。他的作品至今仍在激励和影响着艺术家、科学家和思想家。