岗位描述(节选)
团队介绍
我们是京东云事业部AI Infra团队,致力于前沿的大模型技术创新与应用。我们专注于研发业界领先的大模型算法,构建极致高效的大模型训练与推理平台,提供高吞吐高可用、低成本低延迟的大模型服务。我们的核心使命是高效支持和驱动京东集团内外部的大模型业务生态及智能体应用,涵盖业界主流开源模型和京东自研模型的训练与推理服务。我们团队秉承技术驱动、创新为本的理念,为每一位成员提供广阔的成长空间和富有挑战性的项目。
1. 主导AI推理服务架构设计,实施PD分离、KV池化等技术方案以支撑高并发低延迟场景;
2. 构建AI原生网关与高可用系统,实现异构资源调度、动态路由及安全管控等核心能力;
3. 建立全链路稳定性保障机制,通过监控告警与巡检提升服务可靠性;
4. 将业务诉求抽象为算法问题,推动创新技术方案落地以优化系统性能;
5. 引领架构与稳定性最佳实践,指导团队技术成长并提升交付质量。
【……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。