岗位描述(节选)
岗位职责
1. MaaS 平台建设
● 负责 MaaS 平台整体架构设计与核心模块开发;
● 建设统一模型 API Gateway,支持不同模型供应商和不同模型的统一接入;
● 支持 LLM、ASR、翻译、多模态等模型能力的统一服务化。
2. 模型供给与调度
● 接入国内外主流模型及第三方模型服务;
● 建设模型路由、负载均衡、故障切换、限流和熔断能力;
● 根据价格、性能、稳定性动态选择模型供给。
3. 稳定性与高并发
● 保障平台高并发、高可用和低延迟;
● 建设模型调用监控、告警、日志和 SLA 体系;
● 解决模型调用中的超时、限流、账号异常、供应商故障等问题。
4. 成本优化
● 建立模型调用成本分析和核算体系;
● 持续优化 Token、GPU、API 调用等成本;
● 通过多供应商……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。