Skip to content

如何从YOLO11导出到TF GraphDef以进行部署

当您在不同环境中部署前沿的计算机视觉模型（如YOLO11）时，可能会遇到兼容性问题。Google的TensorFlow GraphDef（或TF GraphDef）通过提供模型的序列化、平台无关的表示形式，提供了解决方案。使用TF GraphDef模型格式，您可以在不具备完整TensorFlow生态系统的环境中（如移动设备或专用硬件）部署YOLO11模型。

在本指南中，我们将逐步指导您如何将Ultralytics YOLO11模型导出为TF GraphDef模型格式。通过转换您的模型，您可以简化部署过程，并在更广泛的应用和平台上利用YOLO11的计算机视觉能力。

TensorFlow GraphDef

为什么要导出到TF GraphDef？

TF GraphDef是TensorFlow生态系统中的一个强大组件，由Google开发。它可以用于优化和部署像YOLO11这样的模型。导出到TF GraphDef使我们能够将模型从研究转移到实际应用中。它允许模型在没有完整TensorFlow框架的环境中运行。

GraphDef格式将模型表示为序列化的计算图。这使得各种优化技术（如常量折叠、量化和图变换）成为可能。这些优化确保了高效的执行、减少内存使用和更快的推理速度。

GraphDef模型可以使用GPU、TPU和AI芯片等硬件加速器，为YOLO11推理流水线解锁显著的性能提升。TF GraphDef格式创建了一个包含模型及其依赖项的自包含包，简化了部署并将其集成到各种系统中。

TF GraphDef模型的关键特性

TF GraphDef提供了简化模型部署和优化的独特功能。

以下是其关键特性的概览：

  • 模型序列化：TF GraphDef提供了一种将TensorFlow模型序列化并存储在平台无关格式中的方法。这种序列化表示允许您在不使用原始Python代码库的情况下加载和执行模型，使部署更加容易。

  • 图优化：TF GraphDef支持计算图的优化。这些优化可以通过简化执行流程、减少冗余和调整操作以适应特定硬件来提升性能。

  • 部署灵活性：导出为GraphDef格式的模型可以在各种环境中使用，包括资源受限的设备、网络浏览器和具有专用硬件的系统。这为TensorFlow模型的更广泛部署打开了可能性。

  • 面向生产：GraphDef设计用于生产部署。它支持高效的执行、序列化功能和与实际用例相符的优化。

使用TF GraphDef的部署选项

在我们深入了解将YOLO11模型导出到TF GraphDef的过程之前，让我们先看看一些典型的部署场景，其中使用了这种格式。

以下是如何在各种平台上高效部署TF GraphDef的方法。

  • TensorFlow Serving：该框架设计用于在生产环境中部署TensorFlow模型。TensorFlow Serving提供了模型管理、版本控制和高效模型服务的基础设施。它是将基于GraphDef的模型集成到生产网络服务或API中的无缝方式。

  • 移动和嵌入式设备：通过使用TensorFlow Lite等工具，您可以将TF GraphDef模型转换为针对智能手机、平板电脑和各种嵌入式设备优化的格式。然后，您的模型可以用于设备上的推理，其中执行是在本地完成的，通常提供性能提升和离线功能。

  • 网络浏览器：TensorFlow.js支持在网络浏览器中直接部署TF GraphDef模型。它为在客户端运行的实时对象检测应用铺平了道路，通过JavaScript利用YOLO11的能力。

  • 专用硬件: TF GraphDef 的平台无关性使其能够针对定制硬件，如加速器和 TPU（Tensor Processing Units）。这些设备可以为计算密集型模型提供性能优势。

将 YOLO11 模型导出为 TF GraphDef

您可以将 YOLO11 对象检测模型转换为 TF GraphDef 格式，该格式兼容各种系统，以提高其在不同平台上的性能。

安装

要安装所需的包，请运行：

安装

# 安装 YOLO11 所需的包
pip install ultralytics

有关安装过程的详细说明和最佳实践，请查看我们的 Ultralytics 安装指南。在安装 YOLO11 所需包时，如果遇到任何困难，请参考我们的 常见问题指南 以获取解决方案和提示。

使用

在深入使用说明之前，需要注意的是，虽然所有 Ultralytics YOLO11 模型 都可用于导出，但您可以确保所选模型支持导出功能 在此。

使用

from ultralytics import YOLO

# 加载 YOLO11 模型
model = YOLO("yolo11n.pt")

# 将模型导出为 TF GraphDef 格式
model.export(format="pb")  # 创建 'yolo11n.pb'

# 加载导出的 TF GraphDef 模型
tf_graphdef_model = YOLO("yolo11n.pb")

# 运行推理
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")

# 将 YOLO11n PyTorch 模型导出为 TF GraphDef 格式
yolo export model=yolo11n.pt format=pb  # 创建 'yolo11n.pb'

# 使用导出的模型运行推理
yolo predict model='yolo11n.pb' source='https://ultralytics.com/images/bus.jpg'

有关支持的导出选项的更多详细信息，请访问 Ultralytics 文档页面上的部署选项。

部署导出的 YOLO11 TF GraphDef 模型

一旦将 YOLO11 模型导出为 TF GraphDef 格式，下一步就是部署。运行 TF GraphDef 模型的主要和推荐的第一步是使用 YOLO("model.pb") 方法，如前述使用代码片段所示。

然而，有关部署 TF GraphDef 模型的更多信息，请查看以下资源：

  • TensorFlow Serving: 关于 TensorFlow Serving 的指南，教您如何在生产环境中高效部署和提供 机器学习 模型。

  • TensorFlow Lite: 此页面描述了如何将机器学习模型转换为 TensorFlow Lite 优化的设备推理格式。

  • TensorFlow.js: 关于模型转换的指南，教您如何将 TensorFlow 或 Keras 模型转换为 TensorFlow.js 格式，以便在 Web 应用程序中使用。

总结

在本指南中，我们探讨了如何将 Ultralytics YOLO11 模型导出为 TF GraphDef 格式。通过这样做，您可以灵活地在不同环境中部署优化的 YOLO11 模型。

有关更多使用细节，请访问 TF GraphDef 官方文档。

有关将 Ultralytics YOLO11 与其他平台和框架集成的更多信息，请不要忘记查看我们的 集成指南页面。它提供了丰富的资源和见解，帮助您在项目中充分利用 YOLO11。

常见问题

如何将 YOLO11 模型导出为 TF GraphDef 格式？

Ultralytics YOLO11 模型可以无缝导出为 TensorFlow GraphDef（TF GraphDef）格式。此格式提供了模型的序列化、平台无关的表示，非常适合在移动和 Web 等不同环境中部署。要将 YOLO11 模型导出为 TF GraphDef，请按照以下步骤操作：

使用

from ultralytics import YOLO

# 加载 YOLO11 模型
model = YOLO("yolo11n.pt")

# 将模型导出为 TF GraphDef 格式
model.export(format="pb")  # 创建 'yolo11n.pb'

# 加载导出的 TF GraphDef 模型
tf_graphdef_model = YOLO("yolo11n.pb")

# 运行推理
results = tf_graphdef_model("https://ultralytics.com/images/bus.jpg")

# 将 YOLO11n PyTorch 模型导出为 TF GraphDef 格式
yolo export model="yolo11n.pt" format="pb"  # 创建 'yolo11n.pb'

# 使用导出的模型运行推理
yolo predict model="yolo11n.pb" source="https://ultralytics.com/images/bus.jpg"

如需了解更多关于不同导出选项的信息，请访问 Ultralytics 模型导出文档。

使用 TF GraphDef 部署 YOLO11 模型有哪些优势？

将 YOLO11 模型导出为 TF GraphDef 格式提供了多种优势，包括：

  1. 平台独立性：TF GraphDef 提供了一种平台无关的格式，允许模型在包括移动设备和网页浏览器在内的各种环境中部署。
  2. 优化：该格式支持多种优化，如常量折叠、量化和图变换，这些优化提高了执行效率并减少了内存使用。
  3. 硬件加速：TF GraphDef 格式的模型可以利用 GPU、TPU 和 AI 芯片等硬件加速器来提升性能。

在我们的文档 TF GraphDef 部分 中了解更多关于这些优势的信息。

为什么我应该选择 Ultralytics YOLO11 而不是其他 目标检测 模型？

与 YOLOv5 和 YOLOv7 等其他模型相比，Ultralytics YOLO11 提供了诸多优势。一些关键优势包括：

  1. 最先进的性能：YOLO11 为实时目标检测、分割和分类提供了卓越的速度和 准确性。
  2. 易用性：提供了一个用户友好的 API，用于模型训练、验证、预测和导出，使其对初学者和专家都易于使用。
  3. 广泛的兼容性：支持多种导出格式，包括 ONNX、TensorRT、CoreML 和 TensorFlow，提供了多样的部署选项。

在我们的 YOLO11 介绍 中进一步探索详细信息。

如何使用 TF GraphDef 在专用硬件上部署 YOLO11 模型？

一旦 YOLO11 模型导出为 TF GraphDef 格式，您就可以在各种专用硬件平台上部署它。典型的部署场景包括：

  • TensorFlow Serving：使用 TensorFlow Serving 在生产环境中进行可扩展的模型部署。它支持模型管理和高效服务。
  • 移动设备：将 TF GraphDef 模型转换为 TensorFlow Lite，针对移动和嵌入式设备进行优化，实现设备上的推理。
  • 网页浏览器：使用 TensorFlow.js 在网页应用程序中进行客户端推理。
  • AI 加速器：利用 TPU 和定制 AI 芯片进行加速推理。

查看 部署选项 部分以获取详细信息。

我在哪里可以找到解决导出 YOLO11 模型时常见问题的方案？

对于解决导出 YOLO11 模型时的常见问题，Ultralytics 提供了全面的指南和资源。如果您在安装或模型导出过程中遇到问题，请参考：

这些资源应能帮助您解决与 YOLO11 模型导出和部署相关的大多数问题。


📅 Created 6 months ago ✏️ Updated 13 days ago
UltralyticsAssistant glenn-jocher MatthewNoyce RizwanMunawar Burhan-Q abirami-vina

Comments