岗位描述(节选)
工作职责
1、负责大模型(文本、图像、语音等多模态模型)推理引擎及服务的开发,支持自研及开源模型的快速部署和高性能推理
2、结合大模型业务场景,优化模型落地过程中的性能问题,降低推理成本。包括但不限于:模型量化蒸馏,服务调度优化等
3、负责开发和维护大模型MaaS服务,支持高并发调用场景
4、负责大模型的国产化适配
【任职要求】
任职资格
1、硕士及以上学历,1年以上算法相关工程化经验。计算机、电子、自动化、软件等相关专业。
2、熟悉一种或多种LLM推理框架,有vllm、sglang、lmdeploy、TensorRT-LLM等相关经验优先。
3、熟悉大模型调度优化技术,包括PD分离、多级缓存、多实例调度、负载均衡等,如SGLang model gateway、lm-d。
4、熟悉大模型引擎优化技术,包括prefill cache、tensor并行优化等。有cuda或triton算子优……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 350 个厦门岗位(全城各职能合计),其中 94 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 5.9K ~ 9K(25~75 分位),中位约 7K,最低 2.5K、最高 30K。
在招岗位较多的企业:美团 27 个海辰储能 17 个宁德时代 12 个希尔顿 11 个海康威视 11 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。