岗位描述(节选)
从事芯片框架相关的工作,主要包含:
1. 负责主流开源框架支持,如pytorch、tensorflow;
2. 负责主流开源大模型推理引擎支持,如vllm;
3. 负责大模型推理性能优化;
4. 负责大模型大规模集群训练优化;
【任职要求】
1. 具备芯片框架相关开发、优化经验;
2. 具备极佳的工程实现能力,熟悉C/C++或Python;
3. 具备扎实的计算机领域基础知识、熟悉计算机体系结构原理、常用算法及数据结构。
加分项:
• 熟悉CUDA编程,GPU环境下调试、优化经验;
• 基于芯片的开发经验;
• LLM推理引擎经验;
• 大规模分布式训练经验;
• 在AI系统优化领域、高性能计算领域发表过论文,或在行业中有一定影响力的候选人。