推理优化工程师，高性能C++

【岗位职责】 我们正在构建面向前沿大模型的高性能 AI 推理引擎。不止追求单 GPU 的计算效率，更关注大规模部署中计算、通信、存储与调度的协同，面向 NVIDIA 先进 GPU 与国产 GPU / NPU 持续提升吞吐，降低首 Token 延迟、逐 Token 延迟与服务成本。 你将结合技术专长，负责以下一个或多个核心方向的方案设计、关键模块开发和生产落地： 1. 投机解码与算法–系统协同优化：设计与实现 MTP、EAGLE 等投机解码方案，优化草稿生成、并行验证、KV Cache 管理与执行调度；结合模型结构、请求长度和并发负载，分析接受率、额外计算开销与端到端加速收益，推动方案在真实业务中稳定落地。 2. 分布式 KV Cache 与多级存储：设计 GPU 显存、主机内存及 SSD 上的多级 KV Cache 系统，优化前缀复用、缓存索引、淘汰、预取和跨节点共享；结合 RDMA、异…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 22776 个上海岗位（全城各职能合计），其中 2348 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8.4K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 120K。