岗位描述(节选)
1)负责智算平台规划与架构设计,结合BU业务场景,制定技术路线,明确智算平台、LLM训推及工具生态的核心功能与技术架构。
2)优化并提升模型训练(微调/强化学习)、模型推理算力使用率;深入优化平台资源管理及调度能力,包括GPU/国产算力、内存/显存、RDMA网络等,提升系统的可靠性、性能和扩展性。
3)LLM推理引擎优化,通过PD分离、EP并行、算子调优、网络或存储调优等技术提高推理引擎性能降低Tokens单位成本。
4)LLM全链路性能监控,建立性能指标体系(吞吐量、时延、资源利用率),输出调优方案、标准与自动化诊断工具。
5)负责LLM基础模型和配套推理引擎的引入、适配、优化及性能基线评测,为业务提供最优性价比的模型和推理引擎。
【任职要求】
1)计算机、人工智能等相关专业,本科及以上学历。
2)8年以上基础设施、云原生、智算或算法平台架构设计或研发经验,熟悉云原生、智算平……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。