入门指南
指南
部署
示例
参考
支持
模块
modelopt.torch.speculative.eagle.conversion
Eagle 转换/恢复工具。
modelopt.torch.speculative.eagle.eagle_model
Eagle模型支持eagle解码。
modelopt.torch.speculative.eagle.utils
PyTorch LLaMA 模型。
鹰优化方法。