岗位描述(节选)
面向 LLM/MLLM 场景,围绕模型能力,致力于提供稳定且易用的开放 API 服务。
具体职责包括:
1. 模型服务 API:负责设计高可用服务架构与端到端业务方案,适配一方 Qwen 模型及第三方开源模型。对外提供覆盖智能对话、代码生成、图像/视频理解、向量化、排序等场景的基础 API,并参与流量控制、任务调度、缓存等核心链路建设。
2. 智能体服务化:面向通用人工智能场景,构建高效、可扩展的 Agent 框架,集成搜索引擎、文档理解、代码沙箱等能力;支持 OAI Responses API、Anthropic Messages API 等行业主流 Agentic API,充分释放模型能力,服务各行业客户。
3. 稳定性和效率:在百炼诸多模型和海量请求的场景中,保障线上服务稳定性,在毫秒级别持续提升端到端链路性能,推进 TTFT、TPOT 、Cache 命中率等核心指标优化;保障服……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。