申请试用
HOT
登录
注册
 
混淆渐变给出了一种虚假的安全感:CIRCUMVENTING DEFENSES TO ADVERSARIAL EXAMPLES

混淆渐变给出了一种虚假的安全感:CIRCUMVENTING DEFENSES TO ADVERSARIAL EXAMPLES

Jane
/
发布于
/
2088
人观看
我们识别出混淆渐变,一种渐变掩蔽,是一种在防御对抗样本时导致虚假的安全感的现象。虽然导致混淆渐变的防御似乎会破坏基于迭代优化的攻击,但我们发现可以规避依赖此效果的防御措施。我们描述了展示效果的防御的特征行为,并且对于我们发现的三种类型的混淆梯度中的每一种,我们都开发了对应的攻击技术来克服它。在一个案例研究中,在ICLR 2018上检查未经认证的白盒安全防御,我们发现混淆的梯度是常见的,9个防御中的7个依赖于混淆的梯度。在每篇论文所考虑的原始威胁模型中,我们的新攻击成功完全绕过了6个防御,部分避开1种防御。
0 点赞
0 收藏
1下载
相关文档
确认
3秒后跳转登录页面
去登陆