岗位描述(节选)
1、参与国产化大规模训练框架的优化(如算子融合、显存复用、通算掩盖等);
2、负责主流开源模型训练任务的性能卡点分析,定位至少2个主要瓶颈(如数据加载、算子执行、通信同步等);
3、负责跟踪业界优秀并行训练优化技术,并完成开发和对比分析;
4、跟踪前沿模型架构,并开展验证和创新。
【任职资格】
1、博士学历,计算机、人工智能、数学等相关专业;
2、熟悉机器学习理论,掌握python、PyTorch、MegatronLM、MindSpore等常用开发语言和训练框架;
3、良好的团队合作与沟通能力,拥有创新思维与解决问题的能力。