LLM模型性能分析优化岗(J10852)

职位概述 负责大语言模型在训练与推理全链路中的性能瓶颈定位、分析与优化，涵盖模型架构改进、计算图优化、显存管理、分布式训练/推理策略调优等方向，推动模型在给定硬件约束下达到最优的吞吐、延迟与资源利用效率。 核心职责 1性能分析与瓶颈定位：对LLM训练及推理过程进行系统性Profiling，利用工具（如PyTorch Profiler、Nsight Systems、DCGM等）定位计算、通信、显存等维度的性能瓶颈，输出可量化的分析报告。 2推理优化：设计并落地推理加速方案，包括但不限于 KV Cache 管理策略、算子融合、量化（GPTQ/AWQ/FP8）、投机解码（Speculative Decoding）、连续批处理（Continuous Batching）、PagedAttention 等技术，优化首Token延迟（TTFT）与生成吞吐（tokens/s）。 3训练效率优化：针对大规…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 6462 个上海岗位（全城各职能合计），其中 909 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 6.5K ~ 18K（25~75 分位），中位约 10K，最低 2.7K、最高 80K。