岗位描述(节选)
1、负责构建集团级多模态内容安全防控体系,研发基于VLM的内容审核与大模型安全对齐算法,保障通义千问、夸克AI等核心产品的业务安全;
2、深耕多模态大模型安全领域,重点突破跨模态通用表征、AI Agent安全防御、AIGC生成内容检测及大模型后训练安全调优等关键技术;
3、利用大模型能力构建自动化风险挖掘系统,通过合成对抗样本、长尾场景泛化及自我博弈,主动发现线上潜在的安全盲区与新型攻击模式,实现从“被动拦截”到“主动治理”的转变;
4、建立高危风险内容的快速识别与拦截机制(紧急止血方案),针对突发舆情或新型攻击手段,能在小时级内完成策略迭代与模型热更新,确保业务零重大安全事故;
5、设计并落地端到端的多模态风控解决方案,平衡安全性与用户体验,解决复杂场景下的全模态风险问题;
6、跟踪业界大模型安全最新进展,持续迭代算法策略,保持技术领先性。
【任职要求】
1、计算机、人工智能等相关专业……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。