版本 1.3
ClearML 服务 1.3.1
新功能和错误修复
- 添加缺失的
await
(ClearML Serving GitHub PR #55) - 为加载
preprocess
类失败添加回溯 (ClearML Serving GitHub 问题 #57) - 修复 Triton
config.pbtxt
中缺失值或冲突的规范 (ClearML Serving GitHub 问题 #62) - 添加更安全的代码以从Kafka拉取数据
- 将
str
类型添加到Triton类型转换中 - 修复在传递带有平台条目的
config.pbtxt
时忽略自动检测平台的问题 - 修复了Triton引擎模型多版本未得到适当支持的问题
- 修复了在空闲时也会发送保持会话活跃的服务
- 将预处理异常记录到服务会话控制台输出,并包含完整的堆栈跟踪
ClearML 服务 1.3.0
新功能和改进
- 整体性能提升20%
- gRPC 通道配置 (ClearML Serving GitHub 问题 #49)
- Hugging Face Transformer 示例
错误修复
- 修复NumPy兼容性问题 (ClearML Serving GitHub 问题 #47 和 #46)
- 修复 Triton 示例 (ClearML Serving GitHub 问题 #48)
- 添加存储环境变量 (ClearML Serving GitHub PR #45)