大模型推理优化工程师

大模型推理优化工程师 职位描述 负责LLM/VLM大模型的部署与推理性能优化，系统性降低硬件延迟瓶颈，保障高并发下线上服务稳定性（TTFT与TPOT满足SLA要求）。 探索前沿推理加速技术，推动在新型GPU/NPU等硬件上的落地。 【任职要求】 职位要求 1. 精通Python，熟悉C++，具备高性能代码开发与算法实现能力。 2. 至少具备以下2个领域中的实践经验： a. Transformers与Diffusers库，深入理解Attention变体（GQA、MLA、Linear Attn、Sparse Attn）及其优化技术（FlashAttention、PagedAttention）； b. GPU编程（CUDA/cutlass/Triton/TileLang开发）且掌握性能分析工具（Nsight、PyTorch Profiler等）； …… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 6412 个上海岗位（全城各职能合计），其中 909 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 6.5K ~ 18K（25~75 分位），中位约 10K，最低 2.7K、最高 80K。