岗位描述(节选)
1. 负责金融行业AI基础设施解决方案设计与POC验证,面向银行、证券、保险等客户开展大模型算力平台技术交流、方案规划和落地验证。
2. 负责国产AI算力平台(PPU)的大模型部署、性能评测及优化工作,推动算力平台在金融行业规模化应用。
3. 深入分析大模型推理链路,包括Prefill/Decode、KV Cache、Continuous Batching、TP/DP/CP/PP并行、PD分离等关键技术,并进行性能调优。
4. 负责Qwen、DeepSeek、GLM等主流大模型在AI加速平台上的适配验证、部署和Benchmark测试,输出性能分析报告及优化建议。
5. 建立AI Infra性能评测体系,覆盖TTFT、TPOT、吞吐、P95/P99延迟、资源利用率、功耗等指标。
6. 支撑客户技术交流、POC实施、售前问题定位,输出技术方案、最佳实践和竞品分析材料。
【任职要求】
1. 计……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。