AI推理引擎开发工程师

【岗位职责】 1. 参与大模型推理引擎的设计和研发，支撑自研以及开源模型的快速部署和高性能推理； 2. 通过各种技术手段持续优化性能，降低推理成本，包括但不限于:算子/编译优化、异构推理、分布式并行等； 3. 学习并应用业界前沿的推理优化技术，KV Cache优化、模型量化(Quantization)、剪枝(Pruning)，跨机分布式推理优化等； 4. 对 Transformer 架构及主流大模型(如GPT、Llama、Qwen等)的推理特性有基本理解，了解大模型推理的基本流程和常见挑战(如延迟、吞吐、内存占用)； 5. 在资深工程师指导下，参与优化内存管理、计算资源分配与调度策略，提升模型推理速度和资源利用率。学习并使用性能分析工具(如Nvidia Nsight)进行瓶颈定位和优化。 【任职要求】 1. 熟练掌握 C++ 和 Python 编程语言，具备扎实的数据结构、算法和操作系统…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 19019 个北京岗位（全城各职能合计），其中 2814 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 9K，最低 2K、最高 300K。