岗位描述(节选)
【岗位职责】
职位描述
我们致力于构建面向大模型推理系统的高性能仿真与优化平台,通过计算、存储和通信建模,实现大模型在不同硬件架构、集群拓扑及并行策略下的端到端性能预测,并基于仿真结果探索最优的推理部署方案。
主要工作包括:
大模型整网性能建模与仿真
研究 Transformer、MoE、Attention 等模型结构的计算图及执行过程,建立整网推理性能模型。
建模 Prefill、Decode、长上下文推理、投机解码等场景的计算、访存、通信及调度开销。
研发高精度、高效率的性能仿真方法,实现不同模型、硬件和部署配置下的性能预测。
分布式推理与集群通信建模
研究 TP、EP、DP、CP、Prefill/Decode 分离等并行与部署策略的性能特征。
建模 AllReduce、AllGather、ReduceScatter、AllToAll、P2P 等集合通信与点对点通信操作。
分析 PCI……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。
本站当前在招 21411 个北京岗位(全城各职能合计),其中 2446 个公开标注了薪资。按这些标注统计:月薪(税前)主流区间 5.5K ~ 19K(25~75 分位),中位约 9K,最低 1K、最高 300K。
在招岗位较多的企业:美团 1477 个字节跳动 1383 个阿里巴巴集团 1131 个小米集团 875 个快手 846 个
统计口径:求职者营地实时在招岗位的公开薪资标注,未标注者不计入;区间为 25~75 分位,非薪酬承诺。