简介
可观测性是开发和部署会话式人工智能代理的关键方面。它使开发人员能够了解他们的代理的性能如何,代理如何与用户交互,以及代理如何使用外部工具和API。AgentOps是CrewAI之外提供代理全面可观测性解决方案的产品。
AgentOps
AgentOps 为代理提供会话重放、指标和监控。
在高层次上,AgentOps使您能够监控成本、令牌使用、延迟、代理失败、整个会话的统计数据等。欲了解更多信息,请查看AgentOps Repo。
概述
AgentOps为开发和生产中的代理提供监控。它提供了用于跟踪代理性能、会话重放和自定义报告的仪表板。
此外,AgentOps 提供会话详细信息,实时查看Crew代理交互、LLM调用以及工具使用情况。此功能对于调试和了解代理如何与用户以及其他代理交互非常有用。
特点
- LLM成本管理和跟踪:跟踪基础模型提供商的支出
- 重放分析:观察逐步代理执行图
- 递归思考检测:识别代理何时陷入无限循环
- 自定义报告:创建有关代理性能的自定义分析
- 分析仪表板:监控有关开发和生产中代理的高级统计信息
- 公共模型测试:针对基准和排行榜测试您的代理
- 自定义测试:针对特定领域的测试运行您的代理
- 时光旅行调试:从检查点重新启动您的会话
- 合规性和安全性:创建审计日志,并检测潜在威胁,如粗话和个人身份信息泄露
- 提示注入检测:识别潜在的代码注入和秘密泄露
使用AgentOps
-
创建API密钥: 在此处创建用户API密钥:创建API密钥
-
配置您的环境: 将您的API密钥添加到环境变量中
AGENTOPS_API_KEY=<YOUR_AGENTOPS_API_KEY>
- 安装AgentOps: 使用以下命令安装AgentOps:
pip install crewai[agentops]
或
pip install agentops
在脚本中使用Crew
之前,包含以下代码:
import agentops
agentops.init()
这将启动一个AgentOps会话,并自动跟踪Crew代理。欲了解更多关于如何为更复杂的代理系统配备装备的信息,请查看AgentOps文档或加入Discord。
Crew + AgentOps 示例
更多信息
要开始使用,请创建一个AgentOps账户。
如有功能请求或错误报告,请联系AgentOps团队,访问AgentOps Repo。