大模型云端推理架构与部署工程师

【岗位职责】 1、负责多模态大模型（VLM）在云端的高性能分布式推理系统设计、开发与全链路端到端部署。 2、负责将前沿的推理加速机制（如PD分离、全局KV池化、长文本上下文处理等）快速工程化，构建高可用、高吞吐的推理服务。 3、跟进解决大规模服务调用中遇到的性能瓶颈与长尾问题，持续优化集群吞吐量（Throughput）、首字延迟（TTFT）与推理显存占用。 【任职要求】 1、计算机、软件工程、人工智能等相关专业；具备分布式系统架构、后端开发或AI基建（AI Infra）相关工作经验。 2、精通 Python/C++，熟悉 PyTorch 等深度学习框架；深入理解大模型底层网络结构（如 Transformer、MoE），并熟练掌握至少一种主流开源推理引擎（如 vLLM、SGLang、TensorRT-LLM、Nvidia Dynamo等）的底层机制与源码魔改。 3、熟悉主流的大模型分布式推…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 19019 个北京岗位（全城各职能合计），其中 2814 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 7K ~ 20K（25~75 分位），中位约 9K，最低 2K、最高 300K。