端侧大模型推理与量化资深工程师

【岗位职责】 1、负责大模型与语音算法的量化、剪枝、蒸馏等模型精简与加速技术，完成在高通等移动端的转换、部署，保障端侧低延迟与高精度； 2、设计并实现端侧推理引擎，负责关键推理优化策略（如 Prompt Cache、投机解码、Flash Attention 等）的工程落地，结合图优化与算子适配，最大化 NPU/CPU/DSP硬件利用率； 3、负责跨平台推理 SDK 的架构设计、封装与迭代，提供稳定、高效的端侧推理接口； 4、负责推理链路延迟、精度与功耗问题的定位，并给出优化方案，推动端侧推理性能指标达成； 5、开发并迭代模型转换、精度与性能自动化测试工具链，提升算法到端侧的交付效率。 【任职要求】 1、硕士及以上学历，人工智能、计算机、电子、数学等相关专业； 2、熟练掌握深度学习与大模型压缩和加速技术，包括量化、剪枝、蒸馏等，有端侧部署与精度调优实践经验； 3、熟练掌握大模型推理优化策略…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 19019 个北京岗位（全城各职能合计），其中 2814 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 9K，最低 2K、最高 300K。