岗位描述(节选)
1. 参与大模型推理优化和计算框架的设计与开发,探索提升推理效率的技术方案;
2. 学习并应用量化、并行计算、访存优化等方法,协助优化模型推理时延和吞吐;
3. 参与模型性能分析与调优实践,定位并解决性能瓶颈问题;
4. 参与自动化工具和流程的开发,简化模型推理部署流程;
5. 跟踪大模型推理领域最新研究进展,提出创新想法并推动落地。
1. 计算机、数学、人工智能等相关专业本科及以上学历,2027届毕业生;
2. 扎实的编程基础,熟练掌握 C++/Python,有良好的代码风格和工程习惯;
3. 了解机器学习/深度学习基础知识,熟悉 PyTorch 等主流框架;
4. 对大模型推理优化方向有浓厚兴趣,了解 vLLM、SGLang 等推理框架者优先;
5. 有以下任一经验者优先:
- 参与过开源项目或推理框架社区贡献;
- 有 CUDA/GPU 编程、高性能计算相关实践经验(有github……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。