岗位描述(节选)
岗位名称:高级AI infra 工程师
岗位描述:
负责AI基础设施底层设施的基础研究和技术优化,打造高性能、高可用、高稳定的AI大模型推理全栈架构,支持高并发、超长上下文、agent等场景。
岗位职责:
1. 大模型前沿的推理加速相关的技术的调研和研究,并结合实际业务场景,在实际生产中落地。
2. 大模型底层服务引擎的研发和优化,持续保障服务稳定运行,并且能处理高并发场景。
3. 持续迭代和改进已有的大模型服务的性能和调优,具备创新精神,能抗住压力解决行业内tough的问题。
4. 分别站在算法和工程的视角,对现有的大模型推理服务进行改进,用极致的性价比完成大模型的推理和优化。
【任职要求】
岗位要求:
● 精通vllm、sglang、tensorrt-llm的框架。
● 研究生以上学历
● 有良好的算法功底
● 具备的大模型服务经验
● 有大模型优化相关的经验(包括但不限于: 模型……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。