岗位描述(节选)
【岗位职责】
职位描述
2、负责小鹏大模型推理技术在物理AI场景下的工程搭建及落地,包括但不限于自动驾驶,舱驾融合,机器人等场景
2、负责小鹏大模型推理引擎XLLM的核心特性开发,包括但不限于kv cache管理,FlashAttention设计及优化,投机解码
3、负责小鹏大模型推理引擎XLLM的加速优化,包括模型结构优化(MoE,Diffusion)及底层计算加速(INT4、INT8)。
4、负责小鹏大模型压缩技术探索,涵盖量化(QAT/PTQ)、剪枝、蒸馏、稀疏化、NAS等
职位要求
硕士研究生及以上学历,计算机及相关专业;
有扎实的数据结构与算法基础,熟悉python或C/C++。
熟悉并掌握主流模型压缩技术,如量化(GPTQ/AWQ/SmoothQuant)、剪枝(Sheared-LLaMa)、蒸馏及NAS。
3、熟悉LLM推理框架(如vLLM,SGLang,TensorRT-L……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。