大模型 Infra 工程师

【岗位职责】 职位描述 1、负责大规模分布式训练，端、云推理系统的研发和优化，支持千卡级别的大规模模型训练和高性能推理； 2、高性能算子研发，逼近硬件理论上限 3、设计和实现高效的模型量化、蒸馏、稀疏等压缩方法 4、跟踪最新的模型训练和推理技术发展，并将其应用于实际生产环境。 【任职要求】 1、懂算法也懂系统，是高性能计算方向某方面的专家。 2、具备CUDA编程和底层算子优化的经验，熟悉主流的高性能实现，对编译器有深入的了解，有编译器研发经验，如MLIR, tilelang, tvm, triton，cutile等。 3、具备训练推理的经验，对分布式的计算，通信，存储等有非常深入的理解。 4、具备模型压缩算法相关经验 5、有系统顶会论文(OSDI/ISCA/ASPLOS/SC等)者优先考虑； 6、有知名开源项目的commiter/contributor经历者优先。

本站当前在招 10664 个深圳岗位（全城各职能合计），其中 1773 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 12K ~ 20K（25~75 分位），中位约 16K，最低 1K、最高 100K。