岗位描述(节选)
1)负责跟踪大模型风控的趋势,输出政策解读、合规方案和合规策略,面向公司大模型内容提供合规咨询。
2)基于语言类、多模态类大模型风险防控要求,运用Prompt攻击检测和大模型输出安全评测工具,量化风控效果。在大模型内生安全、外置防御、安全测评方面,设计风控策略并推动落地,确保安全与体验的平衡。
3)根据大模型AIGC内容安全管控要求和范围,结合业务特性进行风险评估,设计出适配业务发展需要的内容安全解决方案并推动落地。
4)通过数据分析、评测效果反馈,不断优化安全管控策略,提高大模型安全机审和人审防护质量。
5)与业务、法律、内容安全、GA等团队协作,确保大模型产品符合相关法律法规要求。
6)风险发生时快速响应,协同产品技术团队,推动安全问题解决。
【任职要求】
1)本科以上学历,5年以上运营经验,有大模型内容安全相关行业、产品运营经历、数据处理分析能力的经验优先;
2)对风险理解较深,……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。