大模型推理工程师（LLM Inference）

【关于我们】 我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供高速、稳定、可扩展、低成本的大模型训练与推理服务； 在这里，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技术落地，让训练更快、推理更省、交付更稳； 【职位描述】 1、负责大模型推理引擎的研发与优化，提升吞吐、降低时延与推理成本； 2、负责推理核心模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等； 3、负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）； 4、负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 11029 个北京岗位（全城各职能合计），其中 2386 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 5.5K ~ 16K（25~75 分位），中位约 9K，最低 2K、最高 300K。