大模型推理优化工程师-Commercial AI

【岗位职责】 1、负责超大规模机器学习系统架构的设计开发，解决系统高并发、高可靠性、高可扩展性等技术难关； 2、负责大模型分布式推理任务性能优化，流量调度，池化部署等，涵盖LLM/MLLM/Diffusion等多个场景； 3、与算法部门深度合作，进行算法与系统的联合优化； 4、国产硬件的适配和性能优化。 【任职要求】 1、代码能力、数据结构和基础算法功底，熟练掌握Linux环境下的C/C++、Python； 2、熟悉至少一种机器学习框架（PyTorch/TensorFlow/PaddlePaddle/Mindspore等训练框架），以及对应框架相应技术生态； 3、熟悉大模型推理框架（如vLLM/SGLang/TRT-LLM等框架）； 4、掌握分布式系统原理，参与过分布式系统的设计、开发和维护； 5、有强烈的工作责任心，较好的学习能力、沟通能力和自驱力，能够快速的响应和行动； 6、较强的自…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 2297 个北京技术研发岗位，其中 174 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 20K（25~75 分位），中位约 20K，最低 2K、最高 70K。