medusa_model

Medusa模型支持medusa解码。

类

基础美杜莎模型。

class MedusaModel

基础：DynamicModule

基础美杜莎模型。

modify(medusa_num_heads=0, medusa_num_layers=0): 基础Medusa模型修改函数。子类应实现具体细节。