岗位描述(节选)
多模态 / DiT / 分布式系统方向:面向图像、视频及多模态生成场景,围绕 DiT、VLM 等模型能力,建设稳定、高效、成本可控的 MaaS AIGC 推理基础设施。
具体职责包括:
1. 模型服务架构:负责 AIGC 模型服务框架的设计与研发,建设统一的模型接入协议、Stage 编排、Engine 管理和 Runtime 能力,支持图像、视频生成等模型快速接入,降低能力形态与硬件组合增长带来的交付复杂度。
2. 分布式推理与性能优化:围绕 DiT 等计算密集型模型,参与并行方案设计,分析计算、通信、显存和 Pipeline Bubble 等核心瓶颈;结合 Profiling、通信计算重叠、Batching、CUDA Graph、算子融合等手段,持续优化任务时延、吞吐、显存占用、GPU 利用率和单位推理成本。
3. 调度与资源效率:面向分辨率、视频时长、采样步数等差异化请求,建设请求调度……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。