高级大模型推理框架工程师

【岗位职责】 我们做什么 负责大模型推理框架核心组件研发与极致性能优化，挑战token吞吐和首字延迟的物理极限，推动下一代推理范式落地。 岗位职责 · 负责大模型推理框架核心组件的方案设计和特性开发 · 研究投机解码、缓存管理、量化压缩等算法，解决长上下文和高并发难题； · 探索MoE、PD分离等推理优化技术，与底层硬件深度协同，持续提升性能； 【任职要求】 岗位要求 · 本科及以上学历，计算机、人工智能、数学、信息、电子等相关专业，1年以上相关经验 · 精通Python或C++，具备扎实的工程能力与系统级性能优化功底； · 理解Transformer架构和推理全链路（注意力计算、缓存机制、采样策略等）； · 熟悉至少一种主流推理框架（vLLM/TensorRT-LLM/SGLang等）及其底层实现； 加分项（非必需） · 有GPU/NPU/等异构计算设备性能调优实战经验，熟悉CUD…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 10664 个深圳岗位（全城各职能合计），其中 1773 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 20K（25~75 分位），中位约 16K，最低 1K、最高 100K。