端侧大模型推理优化工程师

【工作职责】 1. 负责端侧大模型推理优化与部署落地，设计并实现终端侧模型部署方案，推进模型压缩、量化、裁剪及版本管理，支撑大模型在Android端与嵌入式设备的稳定运行； 2. 持续优化端侧推理框架与系统性能，围绕时延、吞吐、功耗及内存占用，建设Benchmark与Profiling体系，并协同产品与研发开展AI模块性能治理； 3. 研究端侧大模型轻量化与推理策略，探索不同模型架构在终端设备上的性能与资源消耗最优方案，推进LoRA/QLoRA微调、模型蒸馏及端侧适配技术的工程化落地。 【任职要求】 1. 计算机相关专业硕士及以上学历，具备 3 年以上 AI 或端侧推理优化相关经验；扎实的 C++ 与深度学习基础，熟悉 PyTorch 等主流框架； 2. 了解端侧大模型推理与部署技术，熟悉 llama.cpp、ONNX、NCNN、MNN、MLC‑LLM、Ollama 等至少一类或多类推理…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1375 个北京技术研发岗位，其中 143 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 20K（25~75 分位），中位约 20K，最低 2K、最高 70K。