大模型推理优化工程师(J14479)

1.研发及优化语言大模型及多模态等推理引擎、PD分离推理调度系统； 2.支持新一代自研AI芯片推理引擎开发优化，手段包括但不限于模型量化、算子优化、通信优化等方式，优化大模型推理性能，打造极致性能优势。 【任职要求】 1.熟练掌握C/C++、Python编程语言，具备良好的coding 和调试能力;3年及以上相关工作经验。 2.熟悉GPU/AI芯片编程，如CUDA, OpenCL,Ascend 等，熟悉cutlass等加速库是加分项; 3.熟悉主流大模型推理框架，如vIlm，sglang,tensorrt-llm，FasterFransformer等; 4.熟悉各类深度学习网络和算子底层实现细节，训练和推理模型调试、调优有实操经验优先； 5.熟悉并行策略，如模型并行、流水线并行等，了解 NVLINK、GPU通信者优先; 6.具备GPU、AI芯片体系结构知识，熟悉芯片特性，具备…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1078 个天津岗位（全城各职能合计），其中 508 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 5.5K ~ 10K（25~75 分位），中位约 7K，最低 2K、最高 100K。