岗位描述(节选)
1.负责基于 Kubernetes 的大模型推理云原生平台建设,主导推理场景下的 K8s 调度、资源管理与核心插件 (Operator / CSI / CNI / 设备插件)研发,构建高弹性、多租户、异构算力统一调度的大模型推理服务平台, 支撑混元及第三方模型高效、稳定上线;
2.云原生推理平台架构:基于 K8s 主导 TIONE 推理平台控制面与数据面架构设计,构建高弹性、多租户的大模型推理服务,覆盖模型部署、弹性伸缩与推理调用全生命周期;
3.K8s 调度与资源管理:深度定制 K8s 调度器(Scheduler Framework / 调度插件),实现 GPU / NPU 拓扑感知调度、优先级抢占、配额与算力池化;落地 GPU 共享虚拟化与弹性伸缩(HPA / KEDA);
4.Operator 与 CRD 开发:设计推理平台核心 CRD(Model / InferenceSer……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。