MLflow 3
开源的 MLflow 社区达成了一个重要里程碑。今天,我们发布了 MLflow 3,为数以百万计的开发者信赖用于 ML 运维的平台带来了可投入生产的生成式 AI 能力。
这不仅仅是另一个功能更新。MLflow 3 从根本上扩展了开源机器学习工具的可能性,解决了可观测性和质量方面的挑战,这些挑战曾让生成式 AI 的部署看起来像一次凭信心的飞跃。
主要更新
🎯 MLflow LoggedModel
MLflow 3 引入了改进的架构,将新的 LoggedModel 实体作为一等公民,超越了传统的以运行为中心的方法。这使得在各个实验中更好地组织和比较 GenAI 智能体、深度学习检查点和模型变体成为可能。
在文档中了解有关 MLflow LoggedModel 的更多信息。
🔗 强大的血缘支持
增强的模型跟踪提供模型、运行、跟踪、提示和评估指标之间的全面溯源关系。新的以模型为中心的设计允许你将来自交互式查询和自动化评估作业的跟踪和指标进行分组,从而实现跨模型版本的丰富比较。
新一代生成式AI评估套件
MLflow 的评估和监控能力帮助您在整个生命周期中系统地衡量、改进并维护生成式 AI 应用的质量。从开发到生产,使用相同的质量评分器来确保您的应用在管理成本和延迟的同时提供准确、可靠的响应。
在文档中了解有关新的 GenAI evaluation suite 的更多信息。
新的评估套件仅在 Databricks 上的 Managed MLflow 中可用,开源支持即将推出。想试用吗?Start a free Databricks trial 立即开始探索这些功能。
⚡ 提示优化
MLflow 提示注册表现在包含提示优化功能,允许您使用评估反馈和带标签的数据集自动改进提示。这包括版本控制、跟踪和系统化的提示工程工作流。
在文档中了解有关 prompt optimization 的更多信息。
📚 全新改版文档
The MLflow 文档已全面重新设计,以支持两条主要用户路径:GenAI 开发和经典机器学习工作流。新的结构为 GenAI 功能(包括 LLMs、提示工程和跟踪)以及传统的机器学习功能(例如实验跟踪、模型注册表、部署和评估)提供了专门的部分。
访问新的 MLflow 3 documentation,探索更新的内容和指南。
其他功能
Streaming API for ResponsesAgent: 通过 ResponsesAgent 类的 predict_stream 方法新增的流式响应功能,支持用于生成式AI 应用的实时流式传输(docs)
对 PydanticAI 和 smolagents 的自动追踪支持:为新兴的生成式 AI 框架提供增强的自动追踪集成,开箱即用地提供无缝的可观察性(PydanticAI docs 和 smolagentsdocs)。
为提示注册表添加 search_prompts API: 新的 API 功能,用于在注册表中搜索和发现提示,使提示管理更高效 (API 文档: search_prompts).
支持对 OpenAI/LangChain 自动追踪的令牌跟踪: 增强的追踪现在捕获详细的令牌使用情况和费用信息,以便实现更好的可观测性和成本管理。
在跟踪中记录环境元数据: MLflow 自动捕获标准环境元数据,如源名称、Git 提交哈希和执行类型,作为跟踪上的标签(docs)。
UI 对视频工件的支持: MLflow UI 现在支持在工件查看器中直接查看视频文件,扩展了对传统 ML 工件的支持。
还有更多:在跟踪、模型注册和 UI 组件等方面进行了许多其他增强,以提升可用性、性能和开发者体验。
重大变更
MLflow 3 包含若干重大变更,旨在提高框架一致性和性能。主要变更包括移除 MLflow Recipes、fastai 和 mleap flavors,以及删除各种已弃用的 API 参数。
欲查看完整的重大变更清单,请访问 MLflow 3 Breaking Changes documentation。
升级建议
我们建议在升级生产工作流之前在单独的环境中测试 MLflow 3,以确保与现有设置的兼容性。
开始使用
pip install 'mlflow>=3.1'
探索全新的 MLflow 3 documentation,并通过我们更新的快速入门指南试用增强的生成式AI功能。以模型为中心的架构和改进的追踪使构建、评估和部署生产就绪的AI应用比以往更容易。探索 MLflow 3 documentation 以了解有关新功能及如何入门的更多信息。
完整变更日志
有关 MLflow 3 中所有变更、错误修复和改进的完整列表,请访问 full changelog on GitHub。
