岗位描述(节选)
岗位职责
1. 分析端侧小模型和大模型推理中的典型模型结构、算子组成、计算模式和访存特征;
2. 识别模型部署中的关键性能瓶颈,包括算子性能、访存开销、数据搬运、精度损失、模型转换和端到端调度问题;
3. 参与 AI 芯片关键算子支持边界定义,评估哪些算子需要硬件增强、软件优化或模型侧改写;
4. 负责模型优化和算子优化方案设计,包括量化、算子融合、图优化、模型裁剪、低比特推理、KV Cache 优化等方向;
5. 支持端侧小模型和大模型 Benchmark 建设,定义典型模型、典型算子和典型输入规模,评估芯片真实场景性能;
6. 与硬件架构、软件系统、编译器、Runtime、算子库和性能建模团队协同,推动模型、算子和芯片架构的协同优化;
7. 跟踪业界主流模型和推理优化技术,持续分析其对 AI 芯片架构和软件栈的影响。
任职要求
1. 熟悉深度学习模型结构,理解 CNN、……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。