岗位描述(节选)
作为阿里巴巴视觉生成大模型Al Infra训推优化团队,我们支持了通义Wan和Happy系列模型,你将有机会参与或负责以下工作内容:
● 对推理引擎的运行时环境进行深度优化,减少延迟,提高整体性能;
● 针对多种异构AI加速硬件,对核心算子进行极致性能优化,结合量化、蒸馏、cache等技术,降低视频推理成本;
● 开发智能的请求调度算法,确保高并发场景下的最优响应时间和吞吐量;
● 持续关注并跟进业界技术发展,积极尝试和探索新的推理优化方向,提出并验证创新性的解决方案。
【任职要求】
● 计算机、软件工程、人工智能相关专业硕士及以上学历;
● 扎实的工程能力,优良的编程风格,熟悉Python/C++语言和常用设计模式,具备复杂系统的设计开发调试能力;
● 熟悉深度学习基础理论,理解主流训练/推理框架(如 PyTorch、Megatron、DeepSpeed、JAX 等)的特点与实现细节;……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。