岗位描述
- 更长的视频、更高的分辨率,以及多模态生成模型的 RL 后训练,都需要更高效的训练系统。 - 你将参与 MiniMax 多模态生成训练框架研发,深入分布式训练、GPU 性能优化和 RL 训推协同,让模型实验跑得更快、更稳,支持算法团队验证新的生成与对齐方法。 你将参与的工作 1. 训练框架研发:面向视频、图像、音频等多模态生成模型,开发和优化预训练、SFT 流程,支持长序列、高分辨率和变长输入,完善 dataloader、Checkpoint 与故障恢复。 2. 分布式训练优化:参与并行策略、重计算、混合精度与通信计算 overlap 的实现,优化显存占用和训练吞吐,提升多机多卡训练效率。 3. RL 训练框架研发:和算法团队一起实现 rollout、reward 计算、策略更新与评测流程,支持采样策略和 reward 组件的灵活接入,开展多模态生成模型的 RL 后训练。 4. 训推协同优化:优化 rollout 与 training 之间的权重同步、样本传输和资源分配,探索异步 rollout,减少采样与训练等待,提升 RL 训练的 GPU 利用率。 5. 性能分析与验证:通过 Profiling 定位 Attention 等关键 kernel、通信和 I/O 瓶颈,开展算子融合与执行优化,验证性能收益、数值正确性及训练效果。