AMS-FGSM:一种对抗样本生成的梯度参数更新方法OA北大核心CSTPCD
深度神经网络在多种模式识别任务上均取得卓越表现,然而相关研究表明深度神经网络非常脆弱,极易受到对抗样本的攻击。人眼不易察觉的对抗样本还具有迁移性,即针对某个模型生成的对抗样本会使其他不同的深度模型产生误判。该文针对对抗样本的迁移性,提出了基于Adam优化算法的快速梯度符号方法(AMS-FGSM),可替代原有的迭代梯度符号方法(I-FGSM)。不同于I-FGSM,AMS-FGSM结合了动量与AMSGrad算法的优势。在手写数据集MNIST上的实验表明,结合了AMS-FGSM的对抗样本生成方法能更快速地生成攻击成功率更高的对抗样本,在训练模型上的平均成功率达到98.1%,对模型的攻击成功率随扰动次数的增加而保持稳定,表现较好。
诸云;吴祎楠;郭佳;王建宇
南京理工大学自动化学院,江苏南京210094南京理工大学自动化学院,江苏南京210094南京理工大学自动化学院,江苏南京210094南京理工大学自动化学院,江苏南京210094
计算机与自动化
对抗样本梯度更新黑盒攻击深度神经网络人工智能
《南京理工大学学报》 2024 (5)
P.635-641,7
复杂零部件智能检测与识别湖北省工程研究中心开放课题(IDICP-KF-2024-23)湖州市城市多维感知与智能计算重点实验室开放基金(UMPIC202401)厦门市智慧渔业重点实验室2023年开放基金(XMKLIF-OP-202301)智能机器人湖北省重点实验室2024年开放基金(HBIR202304)。
评论