岗位描述(节选)
1、负责AI系统从需求设计、模型训练到上线运营的全流程安全评审,制定代码审计、依赖漏洞扫描、权限校验等开发阶段安全卡点;针对模型透明度、训练数据隐私保护及推理结果公平性偏差,建立可量化的审计指标与自动化检测脚本,将安全要求内嵌至AI系统全生命周期;
2、维护更新部门级网络安全管理制度,重点编制《AI模型开发安全规范》《AI数据安全管理办法》等开发侧制度文档;将安全编码规则(如输入校验、敏感数据脱敏)、模型发布审批流程、第三方AI组件引入规范转化为研发团队可执行的Checklist与自动化校验工具;
3、分析AI新型攻击风险(如提示词注入的代码成因、模型窃取的API设计漏洞);结合AI检测模型的告警日志,反向定位开发阶段的薄弱环节(如未过滤训练数据、接口无频率限制),推动源头修复;
4、参与AI系统安全事件(如对抗样本攻击、训练数据泄露)的调查取证,从代码实现层面溯源漏洞根因(如未对用……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。