Skip to main content

Gradio 启动器

Enterprise Feature

Gradio Launcher 应用程序可在 ClearML 企业计划下使用。

Gradio 是一个用于为您的模型创建可视化网页界面的框架。ClearML Gradio 启动器应用程序会启动一个 Gradio 执行环境,并在您选择的机器上提供您的 Gradio 应用程序。一旦您启动了一个 Gradio 启动器实例,您将获得一个外部可访问的链接,您可以在该链接上使用您的模型。

Gradio 启动器监控 Gradio 应用程序的活动,并在其处于非活动状态超过指定的最大空闲时间后关闭。

AI Application Gateway

Gradio 启动器依赖于 ClearML 流量路由器,该路由器实现了用户身份验证,并将请求重定向到由 Gradio 应用程序提供的 IP/端口。

如果ClearML AI应用程序网关不可用,Gradio应用程序可能无法访问。

一旦你启动了一个Gradio启动器实例,你可以在其仪表板中查看以下信息:

  • Gradio 应用状态指示器
    • Stopped server - 应用正在运行并且正在被使用
    • Stopped server - 应用正在设置中
    • Stopped server - 应用处于空闲状态
    • Stopped server - 应用已停止
  • 空闲时间
  • Gradio 应用程序 - 可外部访问的链接到您的 Gradio 应用程序。您可以发送此链接给您的同事,以便他们可以访问该应用程序。点击 Copy 复制链接
  • Gradio Git 仓库 - 包含 Gradio 应用脚本的仓库
  • Gradio 应用程序的实时预览
  • 控制台日志 - 控制台日志显示启动器实例的活动,包括服务器设置进度、服务器状态变化

Gradio 启动器实例配置

在配置新的Gradio启动器实例时,您可以填写所需的参数或重用之前启动实例的配置。

使用以下选项之一启动一个应用程序实例,配置与之前启动的实例相同:

  • 克隆先前启动的应用程序实例将打开实例启动表单,其中预填充了原始实例的配置。
  • 导入应用程序配置文件。您可以在查看其配置时,将先前启动的实例的配置导出为JSON文件。

在启动新的应用程序实例之前,可以编辑预填充的实例启动表单。

要配置一个新的应用程序实例,请点击Launch New 添加新的以打开应用程序的实例启动表单。

配置选项

  • 导入配置 - 导入一个应用实例配置文件。这将用文件中的值填充实例启动表单,可以在启动应用实例之前进行修改。
  • Gradio 实例名称 - Gradio 启动器实例的名称。这将出现在实例列表中
  • 项目名称 - 您的Gradio启动器应用实例任务将存储的项目
  • 任务名称 - 您的Gradio启动器应用实例的任务名称
  • Git 仓库 - 包含 Gradio 脚本的 Git 仓库
  • Git 分支 - 包含 Gradio 脚本的 Git 分支
  • Gradio 脚本名称 - 要执行的 Gradio 脚本的名称
  • 队列 - ClearML 队列,Gradio 启动器应用程序实例任务将被加入该队列(确保有代理分配给该队列)
  • Docker 镜像 - ClearML 代理将用于运行 Gradio 应用程序的 Docker 镜像
  • 参数 - 传递给脚本的参数
  • 空闲时间限制 (小时) - 最大空闲时间(Gradio应用程序未收到请求的时间段),在此之后Gradio应用程序和启动器实例将关闭。
  • 导出配置 - 将应用程序实例配置导出为JSON文件,稍后可以导入以创建具有相同配置的新实例