岗位描述（节选）
面向大模型在线推理场景，建设高性能、低成本、高可靠的推理加速基础设施，支撑高并发、大规模模型服务。
你将参与以下工作：
1. 设计和研发 KV Cache 存储、复用、调度与加速系统，优化 Prefill/Decode 阶段的缓存管理与资源利用率。
2. 协同 GPU 显存、主存、SSD 及远端存储等多级资源，优化 KV Cache 换入换出、跨节点迁移、共享复用和生命周期管理。
3. 优化首 Token 延迟、端到端时延、推理吞吐和集群资源成本，提升大模型服务的稳定性与弹性能力。
4. 分析并解决推理服务在线上的性能瓶颈、显存碎片、长尾延迟和稳定性问题，持续推动系统架构演进。
【任职要求】
1. 计算机相关专业本科及以上学历，精通 C/C++，熟悉 Linux 系统开发、调试和性能分析。
2. 具备扎实的数据结构、算法、操作系统、并发编程和网络基础，有高性能系统或分布式系统研发经验。
……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。