ray.train.lightning.RayFSDPStrategy.lightning_模块_状态_字典#

RayFSDPStrategy.lightning_module_state_dict() Dict[str, Any][源代码]#

在CPU上收集完整的状态字典到rank 0。

FSDP 检查点在 Lightning 2.0.x 中存在问题。这个子类修补了行为以执行完整的 state dict 检查点,在 rank 0 CPU 上收集检查点分片。升级到 lightning>=2.1 以执行分片 state dict 检查点。

有关更多详细信息,请参阅类文档字符串中的注释。