大模型平台工程师

1、负责大模型平台的架构优化，和算法一起提升大模型能力、推进落地; 2、负责新技术调研和预研，紧跟大模型方向的前沿技术; 3、设计&优化大模型训练&推理框架，通过深度优化CUDA kernel、KV Cache等优化框架性能; 【任职要求】 1、计算机、人工智能或相关专业本科以上学历, 1年以上的机器学习平台相关经验; 2、 熟悉Cuda编程，至少熟悉cutlass、Triton等某一种高性能库 3、了解常用的大模型结构，对模型工程的关键问题有较为一定的理解 4、具有良好的沟通能力和团队合作能力，具有优秀的分析和解决问题的能力和态度; 5、熟悉c++/python任意一门语言； 【加分项】 1、熟悉DeepSpeed、vLLM、LMDeploy、TensorRT-LLM等大模型框架中的一种以上; 2、有Transformer等常见模型结构优化经验； 3、在ACM等知名信息学竞赛获奖、顶…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1192 个上海技术研发岗位，其中 100 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 28K（25~75 分位），中位约 20K，最低 6K、最高 70K。