岗位描述(节选)
【岗位职责】
1,分析模型计算瓶颈,优化:Memory Access,Memory Footprint,Cache利用率,Kernel Fusion,算子融合,Tensor Layout
2,建立模型Benchmark体系,对模型进行:Latency,Throughput,FPS,Memory,功耗,Accuracy等指标评估。
3,提高模型在边缘设备和嵌入式平台上的部署效率。
4,研究并实现模型压缩算法,包括但不限于:网络剪枝(Pruning),知识蒸馏(Knowledge Distillation),模型稀疏化(Sparsity),参数共享,低秩分解(Low-rank Decomposition)
5,负责INT8、FP16、FP8、混合精度量化方案设计,解决量化精度下降问题。
6,基于TensorRT、ONNX Runtime、TVM、OpenVINO、TensorFlow Lite……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。