岗位描述(节选)
岗位职责:
1. 负责面向大语言模型的高性能推理系统性能优化,围绕矩阵乘、注意力、归一化等核心计算内核及量化开展瓶颈分析与优化;参与推理系统软件架构设计与工程化实现,提升系统可维护性、可测试性与可扩展性;参与多加速设备间的通信与计算重叠优化,持续提升吞吐、降低时延并提高硬件利用率。
2. 面向大语言模型推理参与自研神经网络处理器的系统与软件架构设计和开发,围绕算子表达与扩展机制、数据类型、指令集/编程模型、存储层次、任务调度及编译映射提出方案,构建编译器、运行时、内核及开发调试等工具。
3. 负责典型模型的适配、精度验证、性能评测和问题定位,搭建可复现的基准测试、性能分析及自动化测试体系,解决模型部署中的精度、性能、兼容性和稳定性问题。
4. 为上层AI应用及智能体研发提供底层算力支持,包括推理环境搭建、模型与服务部署、资源配置、性能调优及疑难问题排查。
5. 利用主流AI辅助开发工具参与……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。