岗位描述(节选)
岗位定位
负责模型权重文件训练产出之后的全生命周期管理:从量化/格式转换、模型仓库准入、精度验证、压测性能,到开源/闭源模型上线准入的自动化链路、成本计算;同时承担多算力卡(NVIDIA / AMD / 国产卡)的适配与自动化评测。是连接算法训练产出与推理 Serving 之间的"模型入口守门人"。
主要职责
1. 模型权重全生命周期管理:接收训练 ckpt(Megatron/DeepSpeed/FSDP)→ 合并/转换为统一发布格式(HF safetensors)→ 校验(checksum/安全扫描)→ 分层存储与 GC → 版本与血缘(训练→ckpt→转换→量化→评测→部署)
2. 量化与格式转换:HF → TRT-LLM / vLLM / SGLang / ONNX;FP8/INT8/INT4 量化(GPTQ/AWQ/SmoothQuant);转换后数值 diff 与精度对齐
3.……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。