岗位描述（节选）
1.负责大模型、CTR模型及端侧模型的推理性能优化与部署，根据业务场景（如LLM多模态生成、推荐/搜索/广告、移动端/嵌入式设备）定制高性能推理解决方案；
2.针对大模型推理场景，优化推理引擎性能，支持文生图、文生视频等多模态任务的低延迟、高吞吐部署；
3.在CTR场景中，优化推荐/广告系统的分布式推理框架，通过GPU算子优化、编译优化、图优化等技术提升大规模稀疏模型的服务效率；
4.负责端侧模型的轻量化部署，通过模型量化、蒸馏、压缩及端上编译优化实现模型在资源受限环境的高效运行；
5.跟踪前沿推理技术，主导开源项目或关键技术攻关，推动团队在推理性能、成本效率上的持续突破。
【任职要求】
1.本科及以上学历，3-5年机器学习/推理优化研发经验；
2.LLM方向：需熟练掌握大模型推理引擎的优化技术、大模型多模态/文生图/文生视频等大模型算法；具备扎实的学术能力或者是大模型推理引擎开源项目的……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。