岗位描述(节选)
按方向划分,你将承担以下职责中一项或多项:
1.分布式训练方向:
(1)设计并调优大规模混合并行策略(TP/PP/DP/EP/CP 组合方案),持续提升集群 MFU;
(2)做训练性能 profiling 与全链路瓶颈攻坚,扛起训练稳定性终极排查(NCCL 超时、梯度异常、显存泄漏);
(3)对 Megatron-LM / DeepSpeed 等训练框架做深度适配、魔改与 bug 修复,主导 mid-train 阶段的分布式方案设计与执行,与基座模型团队做核心技术对接;
2.推理服务方向:
(1)负责推理服务搭建与维护(vLLM / SGLang 部署、升级、深度调优);
(2)推进批量推理优化与量化方案落地,在精度与吞吐之间找到商业最优解;
(3)建设 Checkpoint 管理与模型格式转换工具链,作为基模与算法团队之间的桥接层,提供日常 infra 支持;
3.Agentic RL ……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。