岗位描述(节选)
【岗位职责】
1,负责开发和优化大模型推理优化和CV/NLP等模型推理;
2,持续优化大模型推理服务性能,提升吞吐,降低延迟并优化整体成本;
3,负责机器学习系统前瞻技术的调研和引入;
【任职要求】
1,精通Python,精通算法与数据结构,熟悉C/C++;
2,有深度学习应用加速和优化的经验,熟悉常见的加速技术,如剪枝、量化、分布式推理等,并能够根据不同场景和硬件平台进行针对性的优化;
3,熟悉LLM主流推理引擎,如TensorRT-LLM、vLLM等,熟悉常见的推理优化方法,如FlashAttention、PageAttention、Continuous Batching、Speculative Decoding等;
4,具备良好的沟通和团队合作能力,能够与跨功能团队密切合作,解决问题并实现共同目标;
5,熟悉 GPU硬件结构,熟悉TensorRT/Triton,有 CUDA开发、优……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 2772 个上海技术研发岗位,其中 302 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 15K ~ 26K(25~75 分位),中位约 20K,最低 4K、最高 100K。
在招岗位较多的企业:字节跳动 361 个拼多多 179 个米哈游 161 个哈啰出行 141 个阿里巴巴集团(含高德/阿里云) 110 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。