【招募】XTuner 中支持 GaLore

[pppppM]

目标

在 XTuner 中添加微调算法 GaLore，会有核心开发者进行指导

前置知识

1. GaLore Paper: https://arxiv.org/abs/2403.03507
2. MMEnginge 中 Optimizer 的进阶用法：https://mmengine.readthedocs.io/zh-cn/latest/tutorials/optim_wrapper.html

资源支持

InternStudio 算力