MLflow 2.17.0
2.17.0 (2024-10-11)
我们很高兴地宣布发布 MLflow 2.17.0!此版本包含若干增强,扩展了 MLflow 的 ChatModel 接口的功能,进一步提高其在处理定制 GenAI 应用场景时的通用性。此外,我们改进了 tracing UI 中的界面,为检索到的文档提供结构化输出,增强了在 UI 中查看这些文档内容的能力。我们还开始着手改进 MLflow 针对 GenAI 的 evaluate 功能的实用性和通用性,初期将支持可调用的 GenAI 评估指标。
主要功能和通知
-
ChatModel 功能增强 - 作为以 GenAI 为重点的
PythonModel的“近亲”,ChatModel正在获得一些重大的功能扩展。从对调用工具的原生支持(创建自定义智能体的必要条件)、通过为所有数据结构引入from_dict方法以更简化地转换为与ChatModel对接所需的内部 dataclass 结构、添加metadata字段以允许完全自定义输入负载、处理新的refusal响应类型,到在响应结构中包含接口类型以实现更广泛的集成兼容性。 (#13191, #13180, #13143, @daniellok-db, #13102, #13071, @BenWilson2) -
可调用的生成式AI评估指标 - 作为对
mlflow.evaluate在生成式AI用例的功能进行更大范围扩展的初步步骤,我们已将生成式AI评估指标转换为可调用。这样可以在支持可调用生成式AI评估指标的包中直接使用它们,同时在原型设计解决方案时也更便于调试单个响应。 (#13144, @serena-ruan) -
MLflow UI 中的音频文件支持 - 现在您可以直接“查看”已记录的音频文件,并在 MLflow UI 的工件查看窗格中收听它们。
-
MLflow AI Gateway 不再被弃用 - 我们决定撤销对 AI Gateway 功能的弃用。我们曾将其重命名为 MLflow Deployments Server,但已重新考虑并将名称和命名空间恢复到原始配置。
功能:
- [跟踪] 在 MLflow 跟踪中为 retriever span 输出添加标准化 (#13242, @daniellok-db)
- [Models] 添加对 LlamaIndex
Workflows对象在调用log_model()时进行序列化的支持 (#13277, #13305, #13336, @B-Step62) - [Models] 为 ChatModel 添加工具调用支持 (#13191, @daniellok-db)
- [Models] 将
from_dict()函数添加到 ChatModel 数据类 (#13180, @daniellok-db) - [模型] 为 ChatModel 添加元数据字段 (#13143, @daniellok-db)
- [模型] 更新 ChatCompletionResponse 以填充对象类型 (#13102, @BenWilson2)
- [模型] 添加对 LLM 响应拒绝的支持 (#13071, @BenWilson2)
- [模型] 添加对通过
langchain.log_model()传入资源的支持 (#13315, @sunishsheth2009) - [Tracking] 添加对通过
set_retriever_schema为多个检索器设置 schema 的支持 (#13246, @sunishsheth2009) - [Eval] 使评估指标可调用 (#13144, @serena-ruan)
- [UI] 为 artifact 查看器 UI 添加音频支持 (#13017, @sydneyw-spotify)
- [Databricks] 在 databricks deployment client 中为 route_optimized 参数添加支持 (#13222, @prabhatkgupta)
错误修复:
- [跟踪] 修复 LangGraph 的追踪 (#13215, @B-Step62)
- [Tracking] 修复了
presigned_url_artifact请求格式错误的问题 (#13366, @WeichenXu123) - [模型] 更新 Databricks 依赖提取功能以适配
langchain-databricks合作包。 (#13266, @B-Step62) - [模型注册表] 修复从模型注册表下载工件时的重试和凭证刷新问题 (#12935, @rohitarun-db)
- [Tracking] 修复 LangChain autologging,使 langchain-community 对合作包不再是必需的 (#13172, @B-Step62)
- [Artifacts] 修复本地制品存储库中文件删除的问题 (#13005, @rzalawad)
Documentation updates:
- [文档] 添加关于使用 ChatModel 构建自定义生成式 AI 应用的指南 (#13207, @BenWilson2)
- [文档] 向 MLflow AI Gateway 文档添加更新 (#13217, @daniellok-db)
- [文档] 移除 MLflow AI Gateway 的弃用状态 (#13153, @BenWilson2)
- [文档] 添加 MLflow 跟踪集成的贡献指南 (#13333, @B-Step62)
- [文档] 添加有关
run_id参数在search_traceAPI 中的文档 (#13251, @B-Step62)
请试用它并在 the issue tracker 上报告任何问题。
