岗位描述(节选)
负责大模型网关的架构设计与核心代码编写,支撑高并发、低延迟的 AI 请求调度
对接国内外主流大模型,实现多模型协议转换、动态权重路由及故障自动熔断降级
负责新模型接入与效果验证,支撑算法研究员团队高效选型与使用
负责网关可观测性与质量体系建设,量化成功率、延迟、流式完整性等核心指标,保障服务稳定性
- 1 年以上服务端研发经验
- 精通 OpenAI / Anthropic 接口细节,有协议转换经验加分
- 具备扎实的计算机基础(数据结构、计算机网络、操作系统)
- 熟悉 MySQL 数据库,深入理解 Redis 缓存设计
- 自驱,能钻研
加分项
- 精通 Go 语言
- 有亿级大表查询优化经验
- 熟练使用 Claude Code 等 AI 编程工具,并了解原理