岗位描述(节选)
岗位职责:
1、负责公司AI平台底座与基础设施的建设、运维与技术体系建设。
具体:在华为算力集群(昇腾/GPU)上完成主流大模型的部署、量化(GPTQ/AWQ)、加速(vLLM/TensorRT-LLM/MindIE)与服务化(OpenAI兼容接口),优化吞吐、首token时延、显存占用与并发批处理;
2、搭建并维护智能路由/多模型网关,按场景成本与质量动态分发;
3、基于Kubernetes+Volcano/Kubeflow建设GPU算力调度(任务编排、配额、利用率优化),搭建CI/CD、Prometheus/Grafana监控告警与日志可观测性,保障高可用与弹性伸缩;
4、落实权限管控、数据脱敏、内容与访问审计等安全合规及网络、存储等基础设施;
5、负责推理与平台标准工作流程梳理(SOP)、技术规范编写、技术培训与新人培养。
【任职要求】
岗位要求:
1.熟悉常见推理框……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。