压缩概述和特性

DeepSpeed Compression 是一个专门构建的库，旨在使研究人员和从业者能够轻松压缩模型，同时提供更快的速度、更小的模型大小和显著降低的压缩成本。请参阅我们的 博客 了解更多详情。

DeepSpeed Compression 提供了新颖的最先进的压缩技术，以实现更快的模型压缩，同时保持更好的模型质量和更低的压缩成本。DeepSpeed Compression 还采用端到端的方法，通过高度优化的推理引擎提高压缩模型的计算效率。此外，我们的库内置了多种最先进的压缩方法。它支持这些方法和系统优化的协同组合，提供两全其美的解决方案，同时为高效的深度学习模型推理提供无缝且易于使用的管道。我们强烈建议您阅读我们的博客，以更深入地了解我们构建 DeepSpeed Compression 的原因以及它为用户带来的好处。要尝试使用 DeepSpeed 压缩库压缩您的模型，请查看我们的 教程。