大模型部署算法工程师

岗位职责 1.负责大模型在边缘端(边缘芯片与消费显卡)与云端（企业显卡集群）的端到端部署，涵盖蒸馏、量化、剪枝、Flash-Attention、Cache 等多种压缩与加速技术。 2.设计并实现分布式推理架构，支持大模型云服务的弹性扩缩与动态负载均衡。 3.主导边侧芯片选型与评估：结合算子支持度、功耗、成本、带宽等指标，完成 Benchmark 测试并输出选型报告；深度参与硬件联调，解决显存带宽、Cache 命中率、PCIe 瓶颈等问题。 4.构建端到端性能分析体系：基于Nsight、VTune、Roofline Model 等工具，对推理链路做全栈 profiling；定位并优化计算、通信、内存墙瓶颈。 5.跟踪前沿技术（如 KV-Cache 压缩、MoE 稀疏化、Speculative Decoding等），通过 PoC 到产品化路径推动落地，提升团队技术竞争力。 【任职要求】 任职…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。