大模型开发工程师(J11071)

1、负责大模型（文本、图像、语音等多模态模型）推理引擎及服务的开发，支持自研及开源模型的快速部署和高性能推理； 2、结合大模型业务场景，优化模型落地过程中的性能问题，降低推理成本。包括但不限于：模型量化蒸馏，服务调度优化等； 3、负责开发和维护大模型MaaS服务，支持高并发调用场景； 4、负责大模型的国产化适配 【任职要求】 1、硕士及以上学历，1年以上算法相关工程化经验。计算机、电子、自动化、软件等相关专业； 2、熟悉一种或多种LLM推理框架，有vllm、sglang、lmdeploy、TensorRT-LLM等相关经验优先； 3、熟悉大模型调度优化技术，包括PD分离、多级缓存、多实例调度、负载均衡等，如SGLang model gateway、lm-d； 4、熟悉大模型引擎优化技术，包括prefill cache、tensor并行优化等。有cuda或triton算子优化经验优先； …… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 10787 个北京岗位（全城各职能合计），其中 2306 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 5.5K ~ 15K（25~75 分位），中位约 9K，最低 2K、最高 300K。