大模型推理架构师(J14480)

1. 负责大模型推理关键组件的研发、适配与性能优化，包括但不限于 LMCache、Mooncake、Mori等通信库，以及 KV Cache 传输、分层缓存、PD 分离、专家并行通信等相关模块； 2. 面向自研 GPU/AI 芯片，完成推理组件在单机多卡、跨节点及超节点环境下的功能适配、稳定性建设和性能调优，解决计算、通信、内存与调度瓶颈； 3. 建立大模型端到端性能模型，结合模型结构、并行策略、硬件规格和业务负载，对 TTFT、TPOT、吞吐、并发能力、显存占用及扩展效率进行预估； 4. 建立算子性能预估与分析方法，覆盖 GEMM、Attention、MoE、通信及数据搬运等核心算子，分析计算量、访存量、通信量和硬件利用率； 5. 参与推理系统性能分析工具、自动化 Benchmark 和性能数据库建设，形成可复用的性能评估、瓶颈定位和优化闭环； 6. 跟踪并参与相关开源社区和前…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 1078 个天津岗位（全城各职能合计），其中 508 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 5.5K ~ 10K（25~75 分位），中位约 7K，最低 2K、最高 100K。