跳至主内容

MLflow 3.2.0

· 5 min read
MLflow maintainers
MLflow maintainers

MLflow 3.2.0 包含若干主要功能和改进

主要新功能

📊 使用情况跟踪(3.2.0 新增)

  • 从 3.2.0 版本开始,MLflow 将开始收集有关平台核心功能如何被使用的匿名使用数据。这些数据包含 不包含任何敏感或可识别个人身份的信息,用户可以随时选择退出数据收集。请查阅 MLflow documentation 以获取更多细节。 (#16439, @serena-ruan)

功能:

错误修复:

  • [跟踪 / 界面] 在新的浏览器客户端请求中添加缺失的默认头并替换绝对 URLs(GraphQL & 已记录模型) (#16840, @danilopeixoto)
  • [跟踪] 修复 artifact 存储库中 tracking_uri 位置参数的错误 (#16878, @copilot-swe-agent)
  • [Models] 修复对 Python 3.10 风格联合语法的 UnionType 支持 (#16882, @harupy)
  • [跟踪 / 追踪] 修复 OpenAI autolog 中 Pydantic 对枚举值的验证 (#16862, @mohammadsubhani)
  • [跟踪] 修复 Anthropic 与 Langchain 组合的跟踪 (#15151, @maver1ck)
  • [模型] 修复 OpenAI 多模态消息记录支持 (#16795, @mohammadsubhani)
  • [追踪] 避免在 Azure Databricks 的跟踪导出中使用嵌套线程 (#16733, @TomeHirata)
  • [Evaluation] 错误修复:Databricks GenAI 评估数据集源返回字符串,而不是 DatasetSource 实例 (#16712, @dbczumar)
  • [模型] 修复 get_model_info 以提供已记录的模型信息 (#16713, @harupy)
  • [评估] 修复 python 评分器的序列化和反序列化 (#16688, @connorchenn)
  • [UI] 修复 GraphQL 处理程序在 NaN 指标值时报错 (#16628, @daniellok-db)
  • [UI] 恢复视频工件预览 (#16620, @daniellok-db)
  • [跟踪] 从 OAI 流式响应正确重建聊天消息 (#16519, @B-Step62)
  • [跟踪] 将 search_traces() 响应中的 trace 列转换为 JSON 字符串 (#16523, @B-Step62)
  • [Evaluation] 修复 mlflow.evaluate 在 _get_binary_classifier_metrics 中由于 … 导致的崩溃 (#16485, @mohammadsubhani)
  • [评估] 修复 mlflow.genai.evaluate 的跟踪检测逻辑 (#16932, @B-Step62)
  • [评估] 使得可以在 mlflow.evaluate 中使用 make_genai_metric_from_prompt (#16960, @TomeHirata)
  • [模型] 为解码流式响应添加显式编码 (#16855, @aravind-segu)
  • [Tracking] 防止跟踪 DSPy 模型 API keys (#17021, @czyzby)
  • [Tracking] 修复 pytorch datetime 问题 (#17030, @serena-ruan)
  • [跟踪] 修复 predict 在预发布版本中的问题 (#16998, @serena-ruan)

Documentation updates:

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org

MLflow 3.1.1

· One min read
MLflow maintainers
MLflow maintainers

MLflow 3.1.1 包含若干主要功能和改进

功能:

  • [Model Registry / Sqlalchemy] 将提示文本限制从 5K 增加到 100K (#16377, @harupy)
  • [跟踪] 在 FileStore 和 SqlAlchemyStore 的 get-history 中支持分页 (#16325, @TomeHirata)

错误修复:

  • [Artifacts] 支持下载已记录的模型工件 (#16356, @TomeHirata)
  • [模型] 修复 bedrock 提供程序已配置的推理配置文件兼容性 (#15604, @lloydhamilton)
  • [跟踪] 当 search_traces 按 run_id 过滤时指定 attribute.run_id (#16295, @artjen)
  • [跟踪] 修复 graphql 批处理攻击 (#16227, @serena-ruan)
  • [模型注册表] 使 DatabricksSDKModelsArtifactRepository 中的分块大小可配置 (#16247, @TomeHirata)

Documentation updates:

  • [文档] 将 Lighthouse 的主注册页面移动到 GenAI (#16404, @BenWilson2)
  • [文档] [文档修复] Dspy 文档修复 (#16397, @joelrobin18)
  • [文档] 修复(docs):解决 GenAI Tracing 概览页面上自引用的 'Next' 链接 (#16334, @mohammadsubhani)
  • [文档] 更新文档选择器下拉菜单 (#16280, @BenWilson2)
  • [文档] 将 utm_source 更新为用于来源跟踪的注册 URL (#16316, @BenWilson2)
  • [Docs] 修复文档在浅色模式下页脚的渲染 (#16214, @BenWilson2)

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org

MLflow 3.0.1

· One min read
MLflow maintainers
MLflow maintainers

MLflow 3.0.1 包含主要功能和错误修复。

功能:

  • [Model Registry / Sqlalchemy] 将提示文本限制从 5K 增加到 100K (#16377, @harupy)

错误修复:

  • [模型] 修复 bedrock 提供程序,使已配置的推理配置文件兼容 (#15604, @lloydhamilton)

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org

MLflow 3

· 4 min read
MLflow maintainers
MLflow maintainers

开源的 MLflow 社区达成了一个重要里程碑。今天,我们发布了 MLflow 3,为数以百万计的开发者信赖用于 ML 运维的平台带来了可投入生产的生成式 AI 能力。

这不仅仅是另一个功能更新。MLflow 3 从根本上扩展了开源机器学习工具的可能性,解决了可观测性和质量方面的挑战,这些挑战曾让生成式 AI 的部署看起来像一次凭信心的飞跃。

主要更新

🎯 MLflow LoggedModel

MLflow 3 引入了改进的架构,将新的 LoggedModel 实体作为一等公民,超越了传统的以运行为中心的方法。这使得在各个实验中更好地组织和比较 GenAI 智能体、深度学习检查点和模型变体成为可能。

在文档中了解有关 MLflow LoggedModel 的更多信息。

🔗 强大的血缘支持

增强的模型跟踪提供模型、运行、跟踪、提示和评估指标之间的全面溯源关系。新的以模型为中心的设计允许你将来自交互式查询和自动化评估作业的跟踪和指标进行分组,从而实现跨模型版本的丰富比较。

新一代生成式AI评估套件

MLflow 的评估和监控能力帮助您在整个生命周期中系统地衡量、改进并维护生成式 AI 应用的质量。从开发到生产,使用相同的质量评分器来确保您的应用在管理成本和延迟的同时提供准确、可靠的响应。

在文档中了解有关新的 GenAI evaluation suite 的更多信息。

info

新的评估套件仅在 Databricks 上的 Managed MLflow 中可用,开源支持即将推出。想试用吗?Start a free Databricks trial 立即开始探索这些功能。

⚡ 提示优化

MLflow 提示注册表现在包含提示优化功能,允许您使用评估反馈和带标签的数据集自动改进提示。这包括版本控制、跟踪和系统化的提示工程工作流。

在文档中了解有关 prompt optimization 的更多信息。

📚 全新改版文档

The MLflow 文档已全面重新设计,以支持两条主要用户路径:GenAI 开发和经典机器学习工作流。新的结构为 GenAI 功能(包括 LLMs、提示工程和跟踪)以及传统的机器学习功能(例如实验跟踪、模型注册表、部署和评估)提供了专门的部分。

访问新的 MLflow 3 documentation,探索更新的内容和指南。

其他功能

Streaming API for ResponsesAgent: 通过 ResponsesAgent 类的 predict_stream 方法新增的流式响应功能,支持用于生成式AI 应用的实时流式传输(docs

PydanticAIsmolagents 的自动追踪支持:为新兴的生成式 AI 框架提供增强的自动追踪集成,开箱即用地提供无缝的可观察性(PydanticAI docssmolagentsdocs)。

为提示注册表添加 search_prompts API: 新的 API 功能,用于在注册表中搜索和发现提示,使提示管理更高效 (API 文档: search_prompts).

支持对 OpenAI/LangChain 自动追踪的令牌跟踪: 增强的追踪现在捕获详细的令牌使用情况和费用信息,以便实现更好的可观测性和成本管理。

在跟踪中记录环境元数据: MLflow 自动捕获标准环境元数据,如源名称、Git 提交哈希和执行类型,作为跟踪上的标签(docs)。

UI 对视频工件的支持: MLflow UI 现在支持在工件查看器中直接查看视频文件,扩展了对传统 ML 工件的支持。

还有更多:在跟踪、模型注册和 UI 组件等方面进行了许多其他增强,以提升可用性、性能和开发者体验。

重大变更

MLflow 3 包含若干重大变更,旨在提高框架一致性和性能。主要变更包括移除 MLflow Recipes、fastai 和 mleap flavors,以及删除各种已弃用的 API 参数。

欲查看完整的重大变更清单,请访问 MLflow 3 Breaking Changes documentation

升级建议

我们建议在升级生产工作流之前在单独的环境中测试 MLflow 3,以确保与现有设置的兼容性。

开始使用

pip install 'mlflow>=3.1'

探索全新的 MLflow 3 documentation,并通过我们更新的快速入门指南试用增强的生成式AI功能。以模型为中心的架构和改进的追踪使构建、评估和部署生产就绪的AI应用比以往更容易。探索 MLflow 3 documentation 以了解有关新功能及如何入门的更多信息。

完整变更日志

有关 MLflow 3 中所有变更、错误修复和改进的完整列表,请访问 full changelog on GitHub

MLflow 2.22.1

· One min read
MLflow maintainers
MLflow maintainers

MLflow 2.22.1 带来了重要的错误修复和改进。

功能:

  • [评分] 对于 DBConnect 客户端,使 spark_udf 支持 DBR 15.4 和 DBR 专用集群 (#15938, @WeichenXu123)

错误修复:

  • [模型注册表] 在 CreateModelVersion 中记录来自 SystemAuthPolicy 的资源 (#15485, @aravind-segu)
  • [Tracking] 跟踪搜索:如果 include_spans=False,避免为 span 抓取生成线程 (#15635, @dbczumar)

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org

MLflow 2.22.0

· 2 min read
MLflow maintainers
MLflow maintainers

MLflow 2.22.0 带来了重要的错误修复和对用户界面及跟踪功能的改进。

功能:

  • [Tracking] 支持对 OpenAI Responses API 的跟踪。
    (#15240, @B-Step62)
  • [Tracking] 引入了 get_last_active_trace,这会影响模型服务/监控逻辑。
    (#15233, @B-Step62)
  • [跟踪] 引入了针对 Databricks 跟踪的异步导出(默认行为)。
    (#15163, @B-Step62)
  • [AI Gateway] 添加了对 Gemini embeddings 的支持,并包含相应的单元测试。
    (#15017, @joelrobin18)
  • [Tracking / SQLAlchemy] 现在支持使用客户端证书的 MySQL SSL 连接。
    (#14839, @aksylumoed)
  • [模型] 添加了 Optuna 存储实用工具以启用并行超参数调优。
    (#15243, @XiaohanZhangCMU)
  • [Artifacts] 新增对 Azure Data Lake Storage (ADLS) 工件存储库的支持。
    (#14723, @serena-ruan)
  • [UI] 文本的 Artifact 视图现在会在 UI 中自动刷新。
    (#14939, @joelrobin18)

错误修复:

  • [跟踪 / UI] 修复了在 langchain_tracer 中结构化输出的序列化问题,并添加了单元测试。
    (#14971, @joelrobin18)
  • [Server-infra] 为身份验证强制执行密码校验(至少 8 个字符)。
    (#15287, @WeichenXu123)
  • [部署] 解决了 OpenAI Gateway 适配器的问题。
    (#15286, @WeichenXu123)
  • [工件 / 跟踪 / 服务器基础设施] 通过去除尾部斜杠规范化路径。
    (#15016, @tarek7669)
  • [Tags] 修复了一个错误,当标签值包含 ": " 时会被截断。
    (#14896, @harupy)

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org

MLflow 2.21.1

· One min read
MLflow maintainers
MLflow maintainers

MLflow 2.21.1 是一个补丁版本,引入了一些小功能并修复了一些小错误。

功能:

  • 在 DSPy 中引入对记录评估的支持 (#14962, @TomeHirata)
  • 在执行 DSPy compile 时,添加对 run 创建的支持 (#14949, @TomeHirata)
  • 添加对通过 --install-java option 构建不包含 Java 的 SageMaker 服务容器的支持 (#14868, @rgangopadhya)

错误修复:

  • 修复了一个由于时间戳转换时区错误导致的跟踪排序问题 (#15094, @orm011)
  • 修复环境变量 OTEL_EXPORTER_OTLP_PROTOCOL 定义中的拼写错误 (#15008, @gabrielfu)
  • 修复了在 Databricks 的共享和无服务器集群上使用 evaluate API 时记录 Spark 数据源 的问题 (#15077, @WeichenXu123)
  • 修复了在用户界面的指标选项卡内显示图片时的渲染问题 (#15034, @TomeHirata)

Documentation updates:

  • 在 set_retriever_schema API 文档中添加额外的上下文信息 (#15099, @smurching)

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org

MLflow 2.21.0

· 3 min read
MLflow maintainers
MLflow maintainers

我们很高兴地宣布 MLflow 2.21.0 的发布!此版本包含若干重要的新功能、增强和错误修复。

主要新功能

功能:

错误修复:

  • [模型] 修复警告处理模块导致的无限递归错误 (#14954, @BenWilson2)
  • [模型注册] 修复 ModelRegistry RestStore 的无效类型问题 (#14980, @B-Step62)
  • [Tracking] 修复: ExperimentViewRunsControlsActionsSelectTagsset-tag 请求失败时未将 loading 状态设置为 false。 (#14907, @harupy)
  • [Tracking] 修复了标签创建中的一个错误,当标签值包含 ": " 时会被截断 (#14896, @harupy)
  • [跟踪] 修复来自 AMD GPU 监控的误报 (#14884, @B-Step62)
  • [跟踪] 修复 mlflow.doctor 在未找到 mlflow 时回退到 mlflow-skinny (#14782, @harupy)
  • [Models] 处理 LangGraph 的破坏性更改 (#14794, @B-Step62)

Documentation updates:

有关完整的更改列表,请参阅 release change log,并查看最新的文档,见 mlflow.org