Skip to main content

Keras调谐器

tip

如果您尚未使用ClearML，请参阅入门指南以获取设置说明。

Keras Tuner 是一个帮助您选择最佳超参数集以训练模型的库。ClearML 与 kerastuner 无缝集成，并自动记录实验标量、输出模型和超参数优化摘要。

通过执行以下操作将ClearML集成到您的Keras Tuner优化脚本中：

  • 实例化一个ClearML任务：

    from clearml import Task
    task = Task.init(task_name="<task_name>", project_name="<project_name>")

  • 指定ClearMLTunerLogger作为Keras Tuner的记录器：

    from clearml.external.kerastuner import ClearmlTunerLogger
    import keras_tuner as kt
       
    # Create tuner object
    tuner = kt.Hyperband(  
       build_model,
       project_name='kt examples',
       logger=ClearMLTunerLogger(),    # specify ClearMLTunerLogger
       objective='val_accuracy',
       max_epochs=10,
       hyperband_iterations=6
    )

就这样！这将创建一个ClearML任务，它捕获：

  • 输出 Keras 模型
  • 优化试验标量 - 显示所有运行指标的标量图
  • 超参数优化总结图 - 按试验ID列出的测试超参数及其指标的表格总结
  • Source code and uncommitted changes
  • Installed packages
  • TensorFlow 定义
  • Console Output
  • 一般详细信息，如机器详细信息、运行时间、创建日期等。
  • 还有更多

您可以在WebApp中查看所有任务的详细信息。

WebApp​

ClearML 记录了每个网络训练过程中的标量数据。它们会出现在 Web UI 中实验的 SCALARS 标签页中。

优化标量

ClearML 自动记录超参数搜索中每次实验运行的参数。它们以表格形式出现在实验的PLOTS中。

优化图

ClearML 自动存储输出模型。它出现在实验的 ARTIFACTS > Output Model 中。

输出模型

示例​

查看Keras Tuner和ClearML的实际操作，请参考keras_tuner_cifar.py示例脚本。