AI网关平台高级研发工程师(J10821)

工作职责： 1.负责 AI API网关后端研发，跟进LLM协议迭代，完善OpenAI兼容接口，完成 Chat Completions、Responses API、Embeddings、Rerank、图像/音频多模态接口适配，屏蔽上游模型厂商协议差异。 2.开发和优化AI网关的基础功能模块，例如AI缓存模块、AI 安全模块、SSE 流式、多租户、监控可观测、降级熔断 3.开发 Token 用量统计、成本核算、模型计费倍率、用户配额、调用日志、账单、运营分析等B端能力。 4.优化网关高并发、SSE 流式场景稳定性与延迟；实现限流、并发管控、缓存、队列、全链路可观测；落地 token 分配、算力调度、权重优先级分流、流量打标、重试、熔断、健康检查、故障自动切换容灾能力。 【任职要求】 任职资格： 1.熟练 Go/Python，熟悉 HTTP、SSE 流式协议，有网关/七层网络代理开发经验优先；…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。