岗位描述(节选)
1. 主导高性能推理解决方案的架构设计与技术规划,确保支撑业务目标达成;
2. 优化大模型多模态生成场景的推理引擎,通过算子与编译优化实现低延迟高吞吐部署;
3. 提升CTR场景分布式推理框架性能,通过GPU算子与图优化增强大规模稀疏模型服务效率;
4. 推进端侧模型轻量化部署,运用量化、蒸馏等技术实现资源受限环境的高效运行;
5. 跟踪前沿推理技术并主导攻关,推动性能与成本效率的持续突破。
【任职要求】
1. 具备大模型多模态、CTR及端侧场景的推理引擎性能优化能力,能主导低延迟高吞吐方案设计;
2. 能够运用模型量化、蒸馏、压缩及端上编译优化等方法,实现资源受限环境下端侧模型的高效部署与运行;
3. 具备系统化问题诊断能力,能从复杂性能瓶颈中定位关键缺陷,在多重约束下形成最优技术路线;
4. 具备前沿技术探索与创新能力,能跟踪推理加速进展,主导关键技术攻关或开源项目,推动性能与成本效……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。