Token Foundry-云端推理服务技术专家-北京/杭州

1. 设计并构建面向多模态交互（语音、视觉、语言、上下文融合）的云端推理服务平台，支持Omni/Speech/VL等大模型的在线/近线推理。 2. 主导端云协同架构中云端服务模块的技术方案，包括模型服务化（Model Serving）、动态批处理（Dynamic Batching）、请求调度、弹性扩缩容、负载均衡等关键能力。 3. 优化云端推理链路的延迟、吞吐与资源利用率，针对ToB客户对SLA（如99.9% 构建统一的服务治理框架，集成监控告警、日志追踪（如OpenTelemetry）、AB测试、灰度发布、故障自愈等运维能力。 4. 与算法团队紧密协作，推动模型结构适配、量化部署、缓存策略等端云联合优化方案落地。 【任职要求】 1. 计算机科学、软件工程或相关专业硕士及以上学历，3年以上后端/云服务/推理平台开发经验。 2. 精通Go/Python/C++至少一种语言，具备…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。