岗位描述(节选)
工作职责:
1、参与规划、设计和实现大模型分布式高性能推理基础设施平台;
2、与硬件团队合作,探索算存协同等软硬件结合方法提升大模型推理性能;
3、与业务部门合作,将研发成果转化到公司AI基础设施、智算平台等产品或解决方案。
岗位要求:
1、计算机、电子工程或相关专业硕士及以上学历;
2、熟悉计算机体系结构,熟悉Linux环境下的Python、C/C++程序开发;
3、熟悉GPU、NPU等常用AI芯片及AI服务器或AI集群,对异构计算有一定了解;
4、熟悉Deepseek、千问、Kimi、GLM等主流大模型相关结构和算法,熟悉大模型常用推理框架,如vLLM、SGLang、Llama.cpp等;
5、学习能力优秀,有极强的好奇心。
优先项:
1、熟悉Linux内核模块,有Linux驱动开发经验者优先;
2、有Mac平台程序开发经验者优先;
3、熟悉PCIe体系结构优先。