岗位描述
关于团队 Seed 基础设施团队负责 AI 基础模型的分布式训练、强化学习框架、高性能推理以及异构硬件编译技术。Seed Infra SRE 团队负责 Seed 基础模型背后计算基础设施的交付与稳定性。我们负责大规模异构 GPU 集群的可靠性、运行于其上的训练与推理平台,以及维持其运行的容量、网络和存储系统。我们的工作直接决定了我们训练和提供模型服务的速度与可靠性。岗位职责 - 负责大规模生成式 AI 工作负载(LLM、文生图、文生视频、多模态理解)训练系统和异构推理系统的稳定性;推动深度性能优化,解决训练中断、推理延迟和吞吐瓶颈等核心问题。 - 设计并迭代灵活、高效的资源调度系统;提升调度效率、资源利用率和调度可解释性;支持跨工作负载类型(训练、离线推理、在线服务)的细粒度调度和优先级管理。 - 主导大规模高速网络(RDMA)和异构计算集群(GPU / NPU / XPU)的规划、部署、运维与优化;确保集群拓扑合理、网络带宽稳定以及计算资源的高效交付。 - 负责高性能存储系统的架构、选型与运维;确保存储 I/O 性能、数据可靠性和稳定性,满足大规模训练和推理的数据访问需求。 - 负责容量交付的端到端质量;建立容量规划方法论,并结合业务增长预测完成资源扩容和配置优化,确保容量按时、可靠、经济高效地交付。 - 推动建设训练与推理工作负载混部的统一计算池;提升离线推理等场景的计算利用率;建立计算效率与成本控制的运营框架,并沉淀可复用的方法论。 - 保障复杂在线服务和工程架构的稳定性;构建覆盖训练与推理全链路的监控、告警和自动化修复能力;快速响应并解决复杂的生产问题。 - 与算法、产品和运营团队合作,交付 MLOps 技术方案;建立大规模生成式 AI 的工程最佳实践,提升团队技术水平。