百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

深度残差网络隐写分析模型探究(基于深度残差收缩网络的故障诊断 deep residual)

bigegpt 2024-08-02 10:53 9 浏览

前言

本文提出了一个深度残差网络隐写分析模型SRNet,它巧妙地将残差网络应用于特征提取的过程中,从而有效防止了梯度消失,并取得了很好的隐写检测效果。

SRNet

SRNet中R代表“Residual”,它既指隐写分析中的残差特征,也指深度学习中应用快捷连接方式的残差连接层。首先描述SRNet的网络结构,再分别讲解每个组件。

网络结构

上图是SRNet的体系结构。第一到第七层的主要功能是从图像中提取隐写噪声的残差信息,第8到第12层负责降低特征图的维数,最后一层是一个带有softmax激活函数的标准全连接层。

总的来说,卷积层皆使用3×3的卷积核,所使用的非线性激活函数都是ReLU。在第1-7层中都没有加入池化的处理,在第8-11层使用了大小为3×3、步长为2的平均池化操作。在第12层中,将512个大小为16×16的特征图缩减为512维特征向量。随后将这512维特征向量作为全连接层的输入进行隐写特征的分类处理。

SRNet包含两种类型的残差连接层,分别为第3-7层的残差连接层Layer type 2、第8-11层的残差连接层Layer type 3。如下图。

第1、2层的网络层Layer type 1如下图所示,卷积核大小为3×3而不是5×5,因为通过实验观察发现3×3的卷积核具有更好的性能。前两层的目的是将特征图从64维缩减为16维,以节省内存。

第4层的网络层Layer type 4如下图所示,和Layer type3相比,它的特点是应用了全局平均池化的方式处理特征图。

网络结构组件详解

SRNet的关键部分是由第一到第七层组成的隐写噪声残差提取部分。平均池化可被看作一个低通滤波器,它通过弱化相邻像素的嵌入变化程度来增强内容并抑制隐写噪声,这在典型的计算机视觉领域中有利于根据图像内容进行分类,但不利于隐写分析。在隐写分析中,根据隐写噪声进行分类,此时图像内容属于干扰因素。因此,SRNet直到第8层才开始使用平均池化操作,从而避免降低隐写噪声能量情况的发生。

下面详细讲解各组件。

(1)激活函数。除了ReLU,本文还尝试使用了TanH、ELU和SELU等激活函数,但是它们并没有带来性能的提升。简单起见,网络中的所有激活函数均确定为ReLU。注意,Layer type 2和Layer type 3中在快捷连接方式后不使用ReLU激活函数,经实验验证,这样做具有更好的隐写性能。

(2)残差快捷连接方式。为了评估SRNet中快捷方式连接的重要性,本文从Layer type 2和Layer type 3的层中删除了它们,并观察了检测精度的变化。例如,对于0.1和0.2 bpp的HILL,分类准确度的损失约为0.5%;对于0.4 bpnzac,品质因数为95的J-UNIWARD,分类准确度的损失约为1.5%。可见残差快捷连接方式能促进梯度传播,提升隐写性能。

(3)未加入池化操作的网络层。通过实验减少未加入池化操作网络层的数量,同时保持架构的其余部分不变,可发现模型的隐写检测准确率逐渐下降。通过多次实验确定在第一到第七个网络层中取消池化操作,模型具有最好的隐写检测性能。

(4)卷积核的数量。第一层卷积核的数量在JPEG域中比在空间域中影响更大。当在第一层中仅使用32或16而不是64个卷积核时,对于0.4 bpp的HILL的隐写检测误差可以忽略不计,但对于品质因子为75、0.1 bpnzac的J-UNIWARD,隐写检测错误率增加了1%。将卷积核的数量增加到64个以上时没有明显的性能提升。

(5)优化器。本文尝试了多种优化器,包括AdaDelta,Adam,Adamax,最终选择了Adamax,因为它使得训练过程中梯度能更快、更可靠地传播和汇聚。

实验与分析

数据集+参数

实验使用的数据集是 BOSSbase 1.01BOWS2 ,它们各自包含10000张灰度图像,使用Maltab的imresize函数将灰度图像大小调整为256×256以适应现有计算条件。

提取BOSSbase的4000对载体载密图像和BOWS2的10000对载体载密图像用于训练、提取BOSSbase的另外1000对载体载密图像用于验证、余下的5000对载体载密图像用于测试。

实验另外挑选了ImageNet数据集中的1281167张JPEG图像。对每张大于256×256且JPEG质量因子高于75的图像进行如下处理:解压缩图像到空间域(imread),再裁剪左上方大小为256×256的图像块,转换此图像为灰度图(rgb2gray),并使用品质因数75重新压缩灰度图像为JPEG图像。最终在无损可用的图像中,跳转250000对载体载密图像用于训练,挑选10000对载体载密图像用于验证,挑选余下的40000对载体载密图像用于测试。

使用随机梯度下降优化器Adamax;设置批量样本数为16;设置学习率为0.001;使用He初始器和L2正则化方法初始化卷积核。

结果分析

空域隐写分析

对于空间域,本文测试了在WOW、HILL和S-UNIWARD为0.1-0.5 bpp的隐写分析结果,如下表所示。其中表格数据表示隐写检测错误率,分析可知除了WOW的0.1 bpp之外,SRNet均具有最低的隐写检测错误率。在WOW为0.1时,本文认为SRNet没有明确使用选择通道,而SCA-YeNet通过为WOW使用选择通道而增强了隐写检测性能。

JPEG域隐写分析

对于JPEG域,本文测试了在J-UNIWARD和UED-JC为0.1-0.5 bpnzac、质量因子为75和95的隐写分析结果,如下表所示。可知SRNet的隐写检测错误率远远低于现有网络模型,具有绝对的隐写分析的优势。

相关推荐

当Frida来“敲”门(frida是什么)

0x1渗透测试瓶颈目前,碰到越来越多的大客户都会将核心资产业务集中在统一的APP上,或者对自己比较重要的APP,如自己的主业务,办公APP进行加壳,流量加密,投入了很多精力在移动端的防护上。而现在挖...

服务端性能测试实战3-性能测试脚本开发

前言在前面的两篇文章中,我们分别介绍了性能测试的理论知识以及性能测试计划制定,本篇文章将重点介绍性能测试脚本开发。脚本开发将分为两个阶段:阶段一:了解各个接口的入参、出参,使用Python代码模拟前端...

Springboot整合Apache Ftpserver拓展功能及业务讲解(三)

今日分享每天分享技术实战干货,技术在于积累和收藏,希望可以帮助到您,同时也希望获得您的支持和关注。架构开源地址:https://gitee.com/msxyspringboot整合Ftpserver参...

Linux和Windows下:Python Crypto模块安装方式区别

一、Linux环境下:fromCrypto.SignatureimportPKCS1_v1_5如果导包报错:ImportError:Nomodulenamed'Crypt...

Python 3 加密简介(python des加密解密)

Python3的标准库中是没多少用来解决加密的,不过却有用于处理哈希的库。在这里我们会对其进行一个简单的介绍,但重点会放在两个第三方的软件包:PyCrypto和cryptography上,我...

怎样从零开始编译一个魔兽世界开源服务端Windows

第二章:编译和安装我是艾西,上期我们讲述到编译一个魔兽世界开源服务端环境准备,那么今天跟大家聊聊怎么编译和安装我们直接进入正题(上一章没有看到的小伙伴可以点我主页查看)编译服务端:在D盘新建一个文件夹...

附1-Conda部署安装及基本使用(conda安装教程)

Windows环境安装安装介质下载下载地址:https://www.anaconda.com/products/individual安装Anaconda安装时,选择自定义安装,选择自定义安装路径:配置...

如何配置全世界最小的 MySQL 服务器

配置全世界最小的MySQL服务器——如何在一块IntelEdison为控制板上安装一个MySQL服务器。介绍在我最近的一篇博文中,物联网,消息以及MySQL,我展示了如果Partic...

如何使用Github Action来自动化编译PolarDB-PG数据库

随着PolarDB在国产数据库领域荣膺桂冠并持续获得广泛认可,越来越多的学生和技术爱好者开始关注并涉足这款由阿里巴巴集团倾力打造且性能卓越的关系型云原生数据库。有很多同学想要上手尝试,却卡在了编译数据...

面向NDK开发者的Android 7.0变更(ndk android.mk)

订阅Google官方微信公众号:谷歌开发者。与谷歌一起创造未来!受Android平台其他改进的影响,为了方便加载本机代码,AndroidM和N中的动态链接器对编写整洁且跨平台兼容的本机...

信创改造--人大金仓(Kingbase)数据库安装、备份恢复的问题纪要

问题一:在安装KingbaseES时,安装用户对于安装路径需有“读”、“写”、“执行”的权限。在Linux系统中,需要以非root用户执行安装程序,且该用户要有标准的home目录,您可...

OpenSSH 安全漏洞,修补操作一手掌握

1.漏洞概述近日,国家信息安全漏洞库(CNNVD)收到关于OpenSSH安全漏洞(CNNVD-202407-017、CVE-2024-6387)情况的报送。攻击者可以利用该漏洞在无需认证的情况下,通...

Linux:lsof命令详解(linux lsof命令详解)

介绍欢迎来到这篇博客。在这篇博客中,我们将学习Unix/Linux系统上的lsof命令行工具。命令行工具是您使用CLI(命令行界面)而不是GUI(图形用户界面)运行的程序或工具。lsoflsof代表&...

幻隐说固态第一期:固态硬盘接口类别

前排声明所有信息来源于网络收集,如有错误请评论区指出更正。废话不多说,目前固态硬盘接口按速度由慢到快分有这几类:SATA、mSATA、SATAExpress、PCI-E、m.2、u.2。下面我们来...

新品轰炸 影驰SSD多款产品登Computex

分享泡泡网SSD固态硬盘频道6月6日台北电脑展作为全球第二、亚洲最大的3C/IT产业链专业展,吸引了众多IT厂商和全球各地媒体的热烈关注,全球存储新势力—影驰,也积极参与其中,为广大玩家朋友带来了...