大模型内容安全策略产品-AI创新业务

【岗位职责】 1、负责AI娱乐产品的内容安全，建设图文、音视频等多模态内容的全链路安全策略体系，系统化解决误伤与漏放问题，平衡安全管控与用户体验及业务发展； 2、负责搭建内容质量把控流程、策略规则（PE）-Workflow，将复杂审核规则、安全策略转化为高效、精准的策略规则（PE），提升内容质量把控效率； 3、负责协调算法建设及优化安全能力，包括但不限于CV（计算机视觉）、VLM（视觉语言模型）、RAG（检索增强生成），评估模型在风险知识泛化、成本等方面的表现，确保适配解决特定业务场景下的内容安全风险。 【任职要求】 1、3年以上内容安全、风控策略相关领域工作经验，具备AIGC多模态内容安全经验者优先； 2、理解大模型原理及训练优化链路，能紧跟大模型与安全技术前沿，具备将安全策略与大模型技术结合落地的能力； 3、对数据敏感，熟练使用SQL进行数据分析，能够基于数据表现挖掘问题本质； 4、…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。

本站当前在招 22776 个上海岗位（全城各职能合计），其中 2348 个公开标注了薪资。按这些标注统计：月薪（税前）主流区间 8.4K ~ 20K（25~75 分位），中位约 12K，最低 0.8K、最高 120K。