【摘要】：基于梯度的对抗样本生成技术是一种主流的对抗方法，属于白盒攻击，依赖于模型内部的详细信息。在2018年的NIPS对抗视觉攻防挑战赛中，Jérme 的队伍通过使用基于梯度的对抗样本生成技术赢得了非目标攻击的第一名。NIPS 对抗视觉攻防挑战赛旨在促进稳健的机器视觉模型和更普遍适用的对抗攻击算法的发展。在一个足够强大的网络中，任何对抗攻击都无法对其结果产生干扰。
基于梯度的对抗样本生成技术是一种主流的对抗方法，属于白盒攻击，依赖于模型内部的详细信息。通常，这类方法通过在梯度方向逐渐增加原始输入的损耗直至原始输入被错误分类来寻找对抗样本。在2018年的NIPS（Conference and Workshop on Neural Information Processing Systems，神经信息处理系统进展大会）对抗视觉攻防挑战赛中，Jérôme 的队伍通过使用基于梯度的对抗样本生成技术赢得了非目标攻击的第一名。
NIPS 对抗视觉攻防挑战赛旨在促进稳健的机器视觉模型和更普遍适用的对抗攻击算法的发展。现代机器视觉算法很容易受到对抗样本的攻击，这一特性揭示了人类和机器在信息处理方面的显著差异，并且引发了许多已经部署在生活中的机器视觉系统（如自动化汽车）的安全问题。因此，改善视觉算法的鲁棒性对于缩小人类和机器在信息处理方面的距离是相当关键的。(www.xing528.com)
在一个足够强大的网络中，任何对抗攻击都无法对其结果产生干扰。对此，促进神经网络之间的公开竞争、使用各种各样的强攻击（包括使用在之前未曾提出过的攻击方法），可以提高神经网络的鲁棒性。以此思路为指导，NIPS 对抗视觉挑战赛一般分为两部分，一部分用于建立防御模型，另一部分用于对这些模型进行攻击；攻击方式分为目标攻击和非目标攻击。参赛队伍提交的模型和攻击在给定的图像分类任务中不断地相互竞争，经过一定时间的竞争后，给出三种排名：非目标攻击、目标攻击、防御模型。
免责声明：以上内容源自网络，版权归原作者所有，如有侵犯您的原创版权请告知，我们将尽快删除相关内容。
