基于图像变换的无监督对抗样本检测方法研究

doi:10.13878/j.cnki.jnuist.20240321001

	基于图像变换的无监督对抗样本检测方法研究
	章凌 1; 赵波 1; 黄林荃 2
	2024-05-22
发表期刊	南京信息工程大学学报
ISSN	1674-7070
卷号	16 期号:06 页码:760-770
摘要	深度神经网络(DNNs)对经过特殊设计的对抗样本存在脆弱性，容易受到欺骗.目前的检测技术虽能识别一些恶意输入，但在对抗复杂攻击手段时，其保护能力仍显不足.本文基于无标记数据提出一种新型无监督对抗样本检测方法，其核心思想是通过特征的构建与融合，将对抗样本检测问题转化为异常检测问题，为此设计了图像变换、神经网络分类器、热力图绘制、距离计算以及异常检测器5个核心部分.先对原始图像进行变换处理，将变换前后的图像分别输入神经网络分类器，提取预测概率数组与卷积层特征绘制热力图，并将检测器从单纯关注模型输出层拓展到输入层特征，增强检测器对对抗样本和正常样本差异的建模和度量能力，进而计算变换前后图像的概率数组KL距离与热力图关注点变化距离，将距离特征输入异常检测器判断是否为对抗样本.在大尺寸高质量图像数据集ImageNet上进行实验，本检测器面向5种不同类型攻击取得的平均AUC值为0.77,展现出良好的检测性能.与其他前沿的无监督对抗样本检测器相比，本检测器在保持相近的误报率的情况下TPR大幅领先，检测能力具有明显优势.
关键词	对抗样本检测无监督学习对抗攻击深度神经网络图像变换
DOI	10.13878/j.cnki.jnuist.20240321001
URL	查看原文
收录类别	北大核心
语种	中文
原始文献类型	学术期刊
文献类型	期刊论文
条目标识符	http://ir.library.ouchn.edu.cn/handle/39V7QQFX/174099
专题	国家开放大学武汉分部
通讯作者	黄林荃
作者单位	1.武汉大学空天信息安全与可信计算教育部重点实验室/国家网络安全学院; 2.武汉软件工程职业学院(武汉开放大学)信息学院
通讯作者单位	国家开放大学武汉分部
推荐引用方式 GB/T 7714	章凌,赵波,黄林荃. 基于图像变换的无监督对抗样本检测方法研究[J]. 南京信息工程大学学报,2024,16(06):760-770.
APA	章凌,赵波,&黄林荃.(2024).基于图像变换的无监督对抗样本检测方法研究.南京信息工程大学学报,16(06),760-770.
MLA	章凌,et al."基于图像变换的无监督对抗样本检测方法研究".南京信息工程大学学报 16.06(2024):760-770.