大模型推理研发专家-基础设施

【岗位职责】 1、负责构建性能领先的LLM推理服务引擎与平台，大模型推理性能优化，参与Servingkit的研发等开发工作； 2、负责LLM推理服务的全链路性能分析、瓶颈定位与优化，能够深入理解大模型推理服务，通过极致的系统优化，在满足SLO/SLA要求的前提下，最大化推理系统的吞吐、降低时延，并实现成本与性能的最佳平衡； 3、负责大模型推理前瞻性技术架构的调研和引入，技术方案不限于编译优化、模型量化等。 【任职要求】 1、熟练掌握Linux环境下的C/C++与Python语言，有大规模机器学习系统相关经验； 2、熟悉至少一种大模型训练/推理框架，包括但不限于：推理（vLLM、TensorRT-LLM、SGLang等）、机器学习框架（Tensorflow/PyTorch等）； 3、具备定位和解决复杂系统性能瓶颈的丰富经验，善于运用各类性能分析工具（Perf、eBPF、Nsight等）； …… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1736 个杭州技术研发岗位，其中 65 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 20K ~ 28K（25~75 分位），中位约 20K，最低 8K、最高 50K。