《基于卷积神经网络和随机森林的毁伤效果评估方法》由会员分享,可在线阅读,更多相关《基于卷积神经网络和随机森林的毁伤效果评估方法(9页珍藏版)》请在金锄头文库上搜索。
1、 基于卷积神经网络和随机森林的毁伤效果评估方法 魏 鑫,李晓婷,赵世慧,贾 婧(北方自动控制技术研究所,太原 030006)0 引言目标毁伤效果评估的定义是:在对既定的目标进行军事打击后,对目标进行及时和准确的毁伤估计1。目标毁伤效果评估是现代化战争的重要内容,可以评估打击任务的完成情况,可以为我军下一轮打击的弹药种类与用弹量的确定提供依据,具有重大的军事意义2。目前,常用的目标毁伤效果评估模型有:基于炸点的毁伤效果评估模型、基于图像的毁伤效果评估模型和综合毁伤效果评估模型。而基于图像的目标毁伤效果评估模型,以其更直观、高效的特点成为了目标毁伤效果评估领域接下来研究发展的重点,具有重大的研究意
2、义3。作为当前的热点研究方向,国内外许多学者都对基于图像的目标毁伤效果评估进行了深入的研究。苏娟等提出一种使用图像变化检测的毁伤效果评估方法4,考虑目标打击前与打击后图像的几何特征和纹理特征进行毁伤效果评估,同时使用建筑物的毁伤图像进行了实验。杨青青等通过分析建筑物的高分辨率遥感图像,将贝叶斯网络与隶属度函数巧妙地融合起来,构建毁伤效果评估模型5。ZHANG X N 等提出一种基于图像的自动评价算法,将灰度匹配和特征匹配的方法结合起来进行目标毁伤效果评估6。但是目前的指控系统采用的是计算机与人工相结合的传统方法进行目标毁伤效果评估,检测图像有效变化的方法为纹理差分图像对比和灰度差分图像对比,无
3、法区分目标特征与背景特征,存在由于背景特征变化剧烈导致得出的毁伤效果评估结果不准确的情况,检测精度不高,容易产生虚警检测。因此,亟需解决这些问题。本文针对以上问题,重点考虑基于图像的目标毁伤效果评估,结合CNN 和随机森林(RF),提出CNN-F 算法。借助卷积神经网络强大的图像特征提取能力,使用VGG16 进行特征提取,区分图像中的背景特征与目标特征。同时由于随机森林实现简单,分类效果较好,泛化能力较强,将卷积神经网络中的部分全连接层与softmax 分类器替换为随机森林,提高评估准确度,减少过拟合的风险。得到的目标毁伤评估结果相比于目前的指控系统更加准确。1 算法基础1.1 CNNCNN
4、是一种著名的人工神经网络,通过局部感受野、权重共享和降采样3 种策略的结合,使其具有了提取图像局部特征的能力,并且降低了网络模型的复杂度,同时在图像旋转、平移时也有较好的特征提取效果。因此,被广泛应用于图像分类与目标识别等领域7-8。当前在图像处理领域有多种卷积神经网络算法,包括LeNet、AlexNet、VGG 等9-11。相比于其他模型,VGG 网络结构更加简洁,同时特征提取效果较好。VGG 有多种子类,包括VGG13、VGG16、VGG19等。本文考虑特征提取的效果与计算成本,使用VGG16 进行图像特征提取。VGG16 可以分为6 个模块,输入的图像数据在经过多次卷积与最大池化操作后,
5、通过全连接层进行降维,使用softmax 分类器输出结果12。其结构图如图1 所示。图1 VGG16 结构图Fig.1 VGG16 structure diagram1.2 随机森林随机森林(random forest,RF)是由LEO BREIMAN等人提出集成学习算法,在分类问题上有着广泛的应用13。随机森林是一种集成分类器,由多棵决策树共同组成,利用引导聚集算法(Bagging)的思想,巧妙地将随机性引入到了分类过程之中,有效提高了泛化性能和准确率,这一思想也使随机森林在许多分类问题中具有较好的表现14。随机森林首先从训练集D 中使用bootstrap 抽取n 组样本,每一个样本的最大特
6、征维度为m。之后从m 维中随机选取x个特征作为决策树的内部节点的待选分裂条件,分别计算x 个特征的基尼增益,并且将最大基尼增益作为最佳分裂条件逐层构建决策树。t 节点的基尼系数为:其中,k 为t 中所有数据的类别数,p(ci|t)为节点t 中数据类别为ci的比例。最后统计每一棵决策树的输出结果,得出随机森林的输出结果15-16。随机森林原理如图2 所示。图2 随机森林Fig.2 Random forest2 CNN-F 算法一般情况下,CNN 处理分类问题时,输出层为softmax 分类器17。softmax 分类器是一个计算结果概率的过程。CNN 对图像进行分类时,将图像进行特征提取后传入s
7、oftmax 分类器。softmax 分类器可以将特征值映射到0,1区间内,输出值为该图像分属于各类的概率。其中,最大值所对应类别为该图像的判定类别18。设当前有数组Z=Z1,Z2,Z3,Zn,其中为第i 个元素,则Zi的softmax 值为:虽然softmax 函数作为分类器使用广泛,但是当CNN 使用softmax 函数作为分类器时,需要通过多个全连接层将高维特征进行降维,计算复杂并且参数过多,结果容易过拟合。而随机森林作为一种常用的分类器具有准确度高、泛化性能好的优点,同时易于实现,结果不易过拟合,因此,将其替换CNN中的部分全连接层和softmax 分类器,提出CNN-F算法。CNN-
8、F 算法如图3 所示。图3 CNN-F 算法Fig.3 CNN-F algorithm本文使用VGG16 作为CNN-F 算法的卷积神经网络部分,在保留VGG16 的最后一个模块中的前两层全连接层的前提下,使用随机森林替换最后一个全连接层与softmax 分类器。模块6 中前两层全连接层提取出高维特征之后将其输入到随机森林,随机森林通过高维特征进行分类,得出分类结果。这样可以使得模型在评估准确度和泛化能力上得到提升,同时减少结果过拟合的风险。3 算例分析本文需要验证使用卷积神经网络区分目标特征与背景特征的工作在毁伤效果评估中的重要性,同时需要验证将VGG16 的最后一层全连接层和softmax
9、 分类器替换为随机森林是否有效,因此,进行3 次实验:1)使用现有的纹理差分和灰度差分毁伤效果评估方法进行靶标毁伤效果评估;2)使用VGG16 网络进行靶标毁伤效果评估;3)使用CNN-F 进行靶标毁伤效果评估。本文借助准确率(accuracy)、精确率(precision)、召回率(recall)和F1值来衡量3 次实验的分类效果。相关公式如下:其中,TP、FP、TN、FN 分别代表真阳率、假阳率、真阴率和假阴率。3.1 数据预处理本文使用陆军某项目中的靶标图像数据集进行毁伤效果评估,并根据陆军某型号项目要求,将目标的物理毁伤度划分为5 个等级19,如表1 所示。表1 毁伤等级描述表Tabl
10、e 1 Description table of damage grades本文筛选的靶标图像共1 000 张,其中,属于零毁伤等级、轻度毁伤等级、中度毁伤等级、重度毁伤等级和摧毁等级的图片各200 张。将其裁剪压缩为224*224*3 的大小。裁剪后对图像进行数据增广,防止由于数据集过小导致结果过拟合。使用的增广方式为旋转、镜像与加噪,相关图像如图4图6 所示。扩充后的数据集中靶标图像共10 000 张,其中各个毁伤等级图像各2 000 张。10 000 张靶标图像按82 构建训练集与测试集,即其中训练集8 000张,各个毁伤等级图像各1 600 张;测试集2 000张,各个毁伤等级图像各4
11、00 张。同时对数据集标记毁伤等级标签。图4 靶标原始图像Fig.4 Original target image图5 加入噪声Fig.5 Adding noise3.2 实验流程将数据整理后开始实验。本文实验流程如下:首先使用现有的纹理差分和灰度差分毁伤效果评估方法进行靶标毁伤效果评估。由于纹理差分与灰度差分不需要训练,所以使用100 组靶标原始图像进行实验,其中每一组包括一张毁伤前图像和一张毁伤后图像。100 组图像中各个毁伤等级各20组。计算每一组两张图像之间的纹理差分与灰度差分后,使用极大似然估计进行差分图像融合,计算目标的有效变化,得出最终的毁伤结果。其次使用VGG16 网络进行靶标毁
12、伤效果评估。使用训练集对预训练的VGG16 模型重新训练,训练后采用测试集进行测试,并对其结果进行评估。训练集8 000 张,各个毁伤等级图像各1 600张;测试集2 000 张,各个毁伤等级图像各400 张。VGG16 网络进行再训练时,根据经验将学习率设置为0.01,批训练块大小设置为10,epoch 设置为100。最后使用CNN-F 进行靶标毁伤效果评估。训练集8 000 张,各个毁伤等级图像各1 600 张;测试集2 000 张,各个毁伤等级图像各400 张。根据经验将随机森林中决策树个数设置为500 棵,学习率设置为0.01,批训练块大小设置为10,epoch 设置为100。基于CN
13、N-F 的毁伤效果评估流程如图7 所示。其具体步骤如下:图7 基于CNN-F 的毁伤效果评估流程Fig.7 Damage effect evaluation flow based on CNN-FStep1:构建训练集与测试集。Step2:将训练集输入预训练的VGG16 网络进行训练,得到训练后的卷积神经网络。Step3:将训练好的VGG16 网络中的最后一个模块中的最后一个全连接层与softmax 分类器剔除。Step4:将训练好的VGG16 网络中的倒数第2个全连接层输出的数据,作为高维特征输入随机森林,对随机森林进行训练,得到训练后的随机森林。Step5:将测试集输入训练后的卷积神经网络
14、,得到对应的高维特征。Step6:将测试集的高维特征输入训练好的随机森林,得出对应的毁伤等级分类结果。进行3 次实验后,将实验结果进行分析对比,得出相关结论。3.3 实验结果3 次实验的结果如表2 所示。实验1 使用现有的纹理差分和灰度差分毁伤效果评估方法进行靶标毁伤效果评估,实验2 使用VGG16 网络进行靶标毁伤效果评估,实验3 使用CNN-F 进行靶标毁伤效果评估。表2 实验结果Table 2 Experimental results通过3 次对比实验,可以看出实验2 相比于实验1 在准确率上提升了约18.05%,在精确率上提升了约18.189%,在召回率上提升了约18.05%,在F1值
15、上提升了约18.317%,说明卷积神经网络在处理图像时可以有效区分目标特征与背景特征,同时也说明区分目标特征与背景特征的工作在毁伤效果评估中是有意义的。相比于实验2,实验3 在准确率、精确率、召回率和F1值4 个指标上都有着明显的提升,分别达到了83.050%、83.585%、83.050%和82.945%,说明使用随机森林代替VGG16 的最后一层全连接层和softmax 分类器有着较好的效果。4 结论本文针对目前指挥控制系统中所采用的传统方法无法区分目标特征与背景特征导致评估结果不准确的问题,使用卷积神经网络进行图像的特征提取,同时将卷积神经网络与随机森林相结合,得到了CNN-F 算法。通过实验比较,CNN-F 算法在准确率、精确率、召回率和F1值4 个指标上都达到了较高的水平,得出的毁伤评估结果更加科学准确,可以为指挥员的下一步决策提供参考。后续相关工作可以聚焦于如何减少算法的计算资源消耗,使得算法运行更加高效。 -全文完-