岗位描述(节选)
1. 负责 MaaS 大模型网关核心链路的设计与研发:多厂商模型接入、协议适配、请求转发、流式响应处理(SSE / WebSocket)。
2. 设计并落地统一的计量计费方案:从流式与非流式响应中精准提取 token / 调用用量,对接计费服务,处理透支冻结、对账等边界问题。
3. 建设与优化分布式异步任务系统:任务调度、Worker 管理、并发控制、失败重试、状态一致性与水平扩展。
4. 保障网关的高可用、高并发与可观测性:限流、熔断、多租户隔离、Prometheus 指标、全链路追踪与容量规划。 ……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。