1、方法创新科技创新与应用Technology Innovation and Application2023年8期基于迁移学习的一种可见数字水印分类方法许宪东（黑龙江工程学院 计算机科学与技术学院，哈尔滨 150001）目前，人们越来越多地将自己的数字作品发布到互联网。无论是企业还是个人，其发布数字作品的版权保护问题需要被重视。对于多媒体数字作品的保护，可以采用加密等方法，但是这又不利于数字作品被更多人所获取。数字水印技术是解决多媒体作品版权保护的一种关键技术。数字水印主要包括可见水印和不可见水印等。其中，可见水印可以较好地适用于大规模多媒体作品的版权保护，人们可以通过可见水印清晰地了解多媒体作品
2、的版权所属。另一方面，为了不影响多媒体作品的效果，可见水印一般具有一定的透明度，其所占需保护数字作品的区域大小也可能变化较大，这些都造成了对于可见数字水印检测的难点。1相关工作近年来，随着深度学习技术的不断发展，人们开始尝试将深度学习技术应用于数字水印1-4。基于深度学习的分类和检测目前取得了一定的进展，目前研究人员开始逐步利用深度学习技术，实现水印的嵌入与检测1-3，出现了基于卷积神经网络的数字水印方法、基于生成对抗网络的数字水印方法，在水印检测和嵌入的网络模型，误差函数及水印的生成等诸多领域取得了一定的进步5-8。由于可见水印可被大规模地应用到商标保护等诸多领域，大量不同类别、不同大小、不
3、同位置甚至形态各异的的水印可以被添加到大量的载体图像中，因此可见数字水印的分类和检测是个难点9。2基于迁移学习的可见数字水印分类方法在只有少量样本的情况下，本文实现了水印的检测。目标是通过数据增强、迁移学习等方法提高分类的准确性。2.1数字水印数据集的建立由于目前公开的数据集还较少，尤其是相关特定任务更是如此。由于难以获得大量的样本数据来完成训练等任务。针对这一特点，本文通过采用数据增强来获得更多的样本数据。本文选择了商标数据集10和室内数据集11来生成摘要：目前，将深度学习应用于可视水印是数字水印中的一个研究热点。深度学习一般需要大量的样本，但是在实际应用中有些情况难以获得足够的样本。为解决
4、上述问题，该文提出一种基于数据增强和迁移学习的方法。该方法可以实现多种嵌入水印后图像的分类识别，适合于那些难以获得足够样本的情况。关键词：数字水印；迁移学习；数据增强；可见水印；深度学习中图分类号：TP309.7文献标志码：A文章编号：2095-2945（2023）08-0139-04Abstract:Visible watermark using deep learning is a hot topic in digital watermarking，andsometimesit is difficult to ob-tain enough samplesofvisible watermar
5、ks.Therefore,to solve the above problems,this paper proposed a method combiningdata augmentation and transferlearning to realize visible image watermarkclassification.And it can be suitable for more envi-ronments where it is difficult to obtain a large number ofwatermark samples.Keywords:digital wat
6、ermarking;transferlearning;data augmentation;visible watermarks;deep learningDOI：10.19981/j.CN23-1581/G3.2023.08.032基金项目：黑龙江省哲学社会科学研究规划项目（19TQE312）作者简介：许宪东（1975-），男，博士，副教授。研究方向为人工智能，计算机视觉。139-2023年8期方法创新科技创新与应用Technology Innovation and Application预训练的卷积神经网络微调训练训练图像（少量样本）训练图像（大量图像样本）卷积神经网络SoftmaxFCMa
7、x-PoolConvMax-PoolConvInputSoftmaxFCMax-PoolConvMax-PoolConvInputLayer1Layer2Layer3Layer1Layer2Layer3图2模型微调框图添加商标水印的数据集。为了更好地提高检测的准确性，应对样本数量过少的问题，通过数据增强方法对数字水印进行了处理，并通过调整参数生成了不同透明度的水印。本文在商标数据集10中取少量样本作为水印图像，生成的部分水印如图 1 所示。2.2基于迁移学习的可见水印分类尽管应用了数据增强方法，但为了满足实际应用，样本数量仍然有限。可能存在过拟合和泛化能力差的问题。因此，通过预先在较大数据集上
8、进行训练的网络模型，通过迁移学习实现分类是一个较好的选择。迁移学习的原理12S=Ds=xi，yi()，i=1mTs，T=Dt=xi，yi()，i=1nTt。式中：DS是源域，一般具有大量训练样本数据，Dt是目标域。迁移学习的目的是从源域和学习任务 TS获得知识，从而提高目标域中预测函数的准确率。本文所用迁移方法是微调方法，其被分为 2 步。首先，通过大量源域训练样本来训练网络模型，再在较少样本上进行微调实现。如图 2 所示，是一个用于分类的神经网络微调方法，通过对卷积神经网络进行预训练和微调实现。3实验与结果分析3.1数据集基于上述水印和室内数据集，以室内数据集11为宿主图像，制作了包含水印的
9、样本数据集。图 3 是部分添加水印后的样本数据。3.2神经网络的建立所建立的神经网络模型如图 4 所示。这里采用预训练的 VGG16 模型。3.3分类通过冻结预训练模型的部分卷积层，并训练所添加的卷积层和全连接层。通过微调方法完成分类。实验结果如图 5、图 6 所示。图1部分水印样本140-方法创新科技创新与应用Technology Innovation and Application2023年8期图4神经网络模型图3添加水印后的部分样本数据由图 5、图 6 可以发现训练逐渐收敛。这里每个类的训练集和验证集的样本数量分别为 42 和 14。通过这种微调方法，可以利用大量样本数据训练得到预训练模
10、型，这种模型具有较好的特征提取能力，同时，其可以通过模型微调来更好地适应新的分类任务。由上文可知，可以通过迁移学习有效的实现分类，获取图片包含的水印类别，即使包含的水印对象较小且透明度较高，也能较好地实现分类。在获取类别后，可以进一步采用滑动窗口、选择性搜索等方法实现水印目标检测。VGG16FlattenFC 1ayerFC 1ayerSoftmax141-2023年8期方法创新科技创新与应用Technology Innovation and Application图6训练精度和验证精度图5训练误差和验证误差4结束语本文提出了一种基于迁移学习的可见水印分类方法，其包含了数据增强和迁移学习两部分
11、，这种方法只需要少量的水印样本，适合于特定的难以获得大量样本的情况。参考文献：1 DANNI C，XIANG L，WEIHONG L，et al.Largescalevisiblewatermarkdetectionandremovalwithdeepconvolutional networksJ.Springer，Cham，2018：27-40.2 XIANG L，CHAN L，DANNI C，et al.Towards Photo-Realisticvisiblewatermarkremovalwithconditionalgenerative adversarial networksJ.
12、ICIG，2019：345-356.3 YANG Q，ZHANG Y，WANG L，et al.WatermarkimagereconstructionbasedondeeplearningC/2019International conference on sensing，Diagnostics，Prognostics，and Control（SDPC），2019.4 MASTORAKIS S，ZHONG X，HUANG P C，et al.DLWIoT：Deeplearning-basedwatermarkingforauthorizediotonboarding C/18th IEEE A
13、nnual Consumer Communications&Networking Conference（CCNC）.IEEE，2020.5 YANG J，KAI L，KANG X，et al.Steganalysis Based onawarenessofselection-channelanddeeplearning C/International Workshop on Digital Watermarking.Springer，Cham，2017.6 WAGNER R，THOM M，SCHWEIGER R，et al.Learningconvolutional neural networ
14、ks from few samples C/NeuralNetworks（IJCNN），The 2013 International Joint Conferenceon.IEEE，2014.7 高培贤,魏立线，刘佳，等针对图像隐写分析的卷积神经网络结构改进J.计算机工程，2018，44（10）：3093138 LIU X W，LIU J，BAI Y，et al.Watermark Vaccine:AdversarialAttacks to Prevent Watermark RemovalJ.ECCV，2022(14）：1-17.9 夏奇.基于神经网络的数字水印技术的研究D.北京：北京服装学
15、院，2022.10 KALANTIDISY，PUEYOLG，TREVISIOLM，etal.ScalableTriangulation-basedLogoRecognition C/InProceedings of ACM International Conference on MultimediaRetrieval，2011：1-7.11 QUATTONI A，TORRALBA A.Recognizing Indoor ScenesZ.IEEE Conference on Computer Vision and Pattern Recognition（CVPR），2009.12 WEISS K，KHOSHGOFTAAR T M，WANG D D.Asurvey of transfer learningJ.Journal of Big Data，2016，3（1）：1-40.轮次损失024682.01.81.61.41.21.00.80.60.4轮次准确率训练准确率验证准确率024680.90.80.70.60.50.40.30.2训练损失验证损失142-
