Paper Title (use style: paper title)

Size: px

Start display at page:

Download "Paper Title (use style: paper title)"

尾恨安
5 years ago
Views:

1 Electrical Engineering and Automation December 2016, Volume 5, Issue 2, PP Profiled Fiber Image Recognition Based on Deep Convolutional Neural Network Shuolei Sun 1#, Huan Wu 2, Zheng Tie 1 1.College of Computer Science and Technology, Donghua University, Shanghai , China 2.Songjiang Entry-Exit Inspection and Quarantine Bureau, Shanghai , China # sunshuolei@sina.com Abstract In recent years, deep convolutional neural network (DCNN), a deep learning method, has been widely used in the field of image recognition. It not only significantly improves the recognition accuracy, but also can automatically learn and extract features layer by layer to avoid complex feature extraction process of the traditional recognition algorithm. This paper firstly introduces the DCNN for the profiled image recognition, and designs a fiber image recognition method based on a proposed DCNN. The classification results of five types of profiled fibers show that the average recognition rate is 94.4% and significant improvements are achieved in recognition accuracy as compared with SVM classifier. Keywords: Deep Learning; Deep Convolutional Neural Network; SVM; Profiled Fiber; Fiber Recognition 摘基于深度卷积神经网络的异型纤维识别 * 孙硕磊 1, 吴欢 2, 铁铮 1 1. 东华大学计算机科学与技术学院, 上海松江出入境检验检疫局, 上海要 : 近年来, 深度卷积神经网络作为深度学习模型之一被广泛应用于图像识别领域, 不仅提高了图像识别的准确率, 而且可以逐层自动地进行特征学习和提取, 避免了传统识别算法中复杂的特征提取过程针对异型纤维的分类问题, 本文研究并设计了基于深度卷积神经网络的异型纤维识别方法通过对 5 种异型纤维的分类实验表明, 该方法平均识别率可达 94.4%, 较 SVM 分类器在识别精度上取得了显著的提高关键词 : 深度学习 ; 深度卷积神经网络 ; 支持向量机 ; 异型纤维 ; 纤维识别引言异型纤维为纺织服装行业提供了丰富的原材料, 研究并设计一种自动快速准确的异型纤维识别方法是我国进出口检验检疫部门和生产企业亟待解决的问题目前针对异型纤维的识别方法主要有基于图像几何和纹理特征的识别方法 [1], 基于 BP(Back Propagation) 神经网络 [2] 的识别方法和基于支持向量机的识别方法 [3] 等基于图像几何和纹理特征的识别方法不仅容易受噪声和形变的影响, 而且几何特征和纹理特征的提取往往受到人为主观因素的干扰, 不能充分表征纤维, 识别时容易产生较大的误差基于 BP 神经网络的识别方法, 良好的特征表达影响着识别的准确性人工选取特征不仅费时费力, 而且还需要大量的先验知识 ; 特征选取的数量和质量成为识别系统的关键因素, 对识别精度有较大的影响支持向量机 (Support Vector Machine, SVM) 的基本思想是通过非线性变换, 将输入数据映射到高维空间, 以实现线性分类经 * 基金资助 : 受基于约束条件的非负矩阵分解算法及其在纤维自动识别中的应用研究国家自然科学基金支持资助 ( )

典的支持向量机只给出了二分类的算法, 对于解决多分类问题存在困难此外,SVM 是一种小样本的学习方法, 对大规模训练样本难以实施在异型纤维的识别中, 形变的异型纤维一直是影响识别率的关键因素传统的异型纤维识别方法由于不具有位移旋转和形变不变性, 对于形变的异型纤维均不能取得较好的识别效果为了解决上述问题, 本文提出了一种基于深度卷积神经网络的异型纤维识别方法

2 典的支持向量机只给出了二分类的算法, 对于解决多分类问题存在困难此外,SVM 是一种小样本的学习方法, 对大规模训练样本难以实施在异型纤维的识别中, 形变的异型纤维一直是影响识别率的关键因素传统的异型纤维识别方法由于不具有位移旋转和形变不变性, 对于形变的异型纤维均不能取得较好的识别效果为了解决上述问题, 本文提出了一种基于深度卷积神经网络的异型纤维识别方法深度卷积神经网络可以对大规模输入图像自动逐层的进行特征提取和分类, 避免了传统识别算法中复杂的特征提取过程此外, 卷积神经网络特有的局部感受野卷积和子采样操作不仅可以减少网络神经元的个数, 还可以保持提取特征的位移旋转和形变不变性, 可以有效降低形变的异型纤维对识别效果的影响实验证明, 本文提出的基于深度卷积神经网络的异型纤维识别方法具有较高的识别率和良好的鲁棒性, 对于形变比较严重的异型纤维, 也能取得较好的识别效果 1 深度卷积神经网络近年来, 深度学习是一个备受关注的研究领域与传统机器学习方法相比, 深度学习具有更强大的特征学习和表达能力深度卷积神经网络 (Deep Convolutional Neural Network, DCNN) 作为深度学习模型之 [4][5] 一, 被广泛应用在图像识别领域由 LeCun 提出的 LeNet 模型在应用到各种不同的图像识别任务时都取 [6] [7] [8] 得了不错的效果此外, 深度卷积神经网络在人脸识别行人检测语音识别等方面都取得了显著的效果 1962 年,Hubel 和 Wiesel 等通过对猫大脑皮层中用于局部敏感和方向选择的神经元的研究, 提出了感 [9] 受野的概念, 发现其独特的网络结构可以有效降低反馈神经网络的复杂性 1984 年,Fukushima 基于感受野提出的神经认知机 [10] 是深度卷积神经网络的第一个实现网络神经认知机是一个将视觉模式分解成许多子模式, 通过逐层阶梯式相连的特征平面对这些子模式特征进行处理, 使得在目标对象产生形变的情况 [11] [4][5] 下, 也具有很好的识别能力随后,LeCun 等将反向传播算法应用于深度卷积神经网络的训练, 并成功应用于图像识别领域与传统人工神经网络相比, 深度卷积神经网络是一个多层的网络结构, 前面几层由卷基层和下采样层交替组成, 在靠近输出层则采用全连接的的一维网络, 典型的全连接层为 BP 神经网络图 1 简化的深度卷积神经网络结构一个简化的深度卷积神经网络结构如图 1 所示, 一般地, (i=1,2, ) 为卷积层, 卷积运算可以用于自动提取特征, 不同的特征对应不同的卷积核卷积神经网络把每层共享相同权值的神经元组织成一个二维平面, 称为特征映射图权值共享的网络结构使之更类似于生物神经网络, 利用空间关系可以有效减少网络的训练参数, 降低网络参数选择的复杂度, 提高网络的泛化能力 [12] 每个卷积层后面都连接着一个子采样层 (i=1,2, ), 子采样在降低图像分辨率的同时, 还能够保持图像的全局结构特征, 使得网络对图像的局部变换具有一定的不变性后续各层可以组合上一层的特征, 从而得到更高层和更抽象的特征, 以

便于分类在靠近输出层时, 分类器一般采用一层或两层的全连接网络深度卷积神经网络特有的两次特征提取结构不仅可以提取图像的局部结构特征, 同时还可以保持这些局部结构特征的位移旋转和形变等空间不变性, 可以有效降低形变的异型纤维对识别效果的影响, 非常适合异型纤维的检测识别问题 2

44*44 大小的特征映射图 S2 对 C1 的各个特征映射图进行子采样, 子采样窗口大小为 2*2, 得到 6 个 22*22 大小的特征图 C3 用 12 个 7*7 大小的卷积核与 S2 层进行卷积运算, 得到 12 个 16*16 大小的特征映射图 S4 对 C3

因此在输出层设置 5 个神经元深度卷积神经网络的学习算法为有监督的学习算法, 所以其样本集是由 (, ) 的向量对构成的, 其中表示训练样本集中的第 i 个样本, 表示对应的理想输出向量深度卷积神经网络的训练算法与传统的 BP 算法类似, 它能够学习大量的输入与输出之间的映射关系,

) (1) 2 j 1 n E E (2) i 1 i 在上述条件下, 网络的训练过程和识别流程为 : 1) 选定训练样本集 2) 设置网络的各个权值为接近 0 的随机值, 并初始化误差控制参数和学习速率 ; 由于本文采用 ReLu 激活函数, 所以需要调低学习速率, 本文取值为 0.

3 便于分类在靠近输出层时, 分类器一般采用一层或两层的全连接网络深度卷积神经网络特有的两次特征提取结构不仅可以提取图像的局部结构特征, 同时还可以保持这些局部结构特征的位移旋转和形变等空间不变性, 可以有效降低形变的异型纤维对识别效果的影响, 非常适合异型纤维的检测识别问题 2 基于深度卷积神经网络的异型纤维识别图 2 基于深度卷积神经网络的异型纤维识别结构图本文设计的异型纤维识别方法采用 7 层卷积神经网络结构, 如图 2 所示第一层为网络的输入层, 输入图像为 50*50 的灰度纤维图像 C1 用 6 个 7*7 大小的卷积核与输入图像进行卷积运算, 得到 6 个 44*44 大小的特征映射图 S2 对 C1 的各个特征映射图进行子采样, 子采样窗口大小为 2*2, 得到 6 个 22*22 大小的特征图 C3 用 12 个 7*7 大小的卷积核与 S2 层进行卷积运算, 得到 12 个 16*16 大小的特征映射图 S4 对 C3 的各个特征映射图进行子采样, 子采样窗口大小同样为 2*2, 子采样后得到 12 个 8*8 大小的特征图 F5 将 12 张 8*8 大小的二维特征图矢量化, 使其成为一个特征向量, 作为全连接层 BP 神经网络的输入输出层神经元的个数与分类的类别相关, 本文的异型纤维有 5 个类别, 因此在输出层设置 5 个神经元深度卷积神经网络的学习算法为有监督的学习算法, 所以其样本集是由 (, ) 的向量对构成的, 其中表示训练样本集中的第 i 个样本, 表示对应的理想输出向量深度卷积神经网络的训练算法与传统的 BP 算法类似, 它能够学习大量的输入与输出之间的映射关系, 只要用已知的模式对卷积神经网络加以训练, 网络就具有输入输出之间的映射关系假设输入层, 输出层的神经元个数分别为 n 和 m 第 i 个输入样本为 =(,,, ), 其对应的输出向量 =(,,, ) 表示第 i 个样本的误差, 整个样本集的误差为 E 1 E t y m 2 i ( ij ij ) (1) 2 j 1 n E E (2) i 1 i 在上述条件下, 网络的训练过程和识别流程为 : 1) 选定训练样本集 2) 设置网络的各个权值为接近 0 的随机值, 并初始化误差控制参数和学习速率 ; 由于本文采用 ReLu 激活函数, 所以需要调低学习速率, 本文取值为 ) 从训练样本中选取样本输入到网络, 并计算对应的实际输出 4) 将样本的实际输出值与理想值进行比较, 并按公式 (1) 计算误差 5) 将误差按照 BP 算法调整网络中的权值参数 6) 按公式 (2) 计算总误差 E, 判断调整权值后的网络总误差 E 与的大小, 如果 E 小于等于, 进入步骤 7); 否则, 返回步骤 3) 继续选取下一个样本进行训练

4 7) 结束训练, 保存网络参数 8) 根据 7) 中保存的网络参数重构网络, 输入一幅异型纤维图像, 在网络输出层输出对应的类别 3 实验 3.1 数据集本文实验数据来源于上海市进出口检验检疫部门提供的纺织品纤维横切显微图 ( 如图 3 所示 ) 在实践中, 大部分的数据并不具有类标号, 然而, 为了提高深度卷积神经网络的泛化能力, 需要大量具有类标号的训练样本为每个数据人工设置类标号是非常费时和枯燥的工作, 本文通过水平集和人工相结合的半自动图像切割方法对纤维横切显微图进行分割和标注, 共获得张 50*50 像素的异型纤维样本图像, 共分为 5 个类别 ( 如图 4 所示 ), 包括十字型三角型五角型哑铃型和 VY 型等异型纤维每个类别张, 选取 8000 张作为深度卷积神经网络的训练样本, 其余 2000 张作为预测样本十字型图 3 部分异型纤维横切显微图 (a) 十字型 (b) 三角型 (c) 五角型 (d) 哑铃型 (e) VY 型图 4 部分异型纤维样本

5 3.2 实验结果表 1 实验环境开发软件操作系统处理器内存硬盘 Matlab2014a OS X EI Capitan Intel Core i5 2.4GHz 8GB 250G 固态硬盘本文的实验环境如表 1 所示表 2 对比了基于 SVM 和 DCCN 异型纤维识别方法的实验效果从表 2 中可以看出, 对于十字型哑铃型和 VY 型等异型纤维而言, 基于 SVM 和 DCCN 的识别方法都能取得较好的识别效果由于三角型和五角型等异型纤维存在较大的噪声干扰 ( 如图 4(b) 所示 ) 或形变 ( 如图 4(c) 所示 ) 现象, 而 SVM 受噪声和形变的影响比较大此外,SVM 一般基于小样本进行学习, 对大规模训练样本难以实施, 不能充分学习样本特征, 所以基于 SVM 的异型纤维识别方法对于三角型和五角型等纤维的识别效果并不理想 DCNN 通过卷积运算可以使图像特征增强, 并且降低噪音的同时, 子采样可以有效降低图像分辨率, 还能够保持图像的全局结构特征, 使得网络对图像的局部变换具有一定的不变性, 可以有效降低形变的异型纤维对识别效果的影响 ; 所以基于 DCCN 的异型纤维识别方法整体上具有较高的识别率, 三角型和五角型的识别精度较 SVM 有较大提升表 2 异型纤维识别结果识别准确率 /% 纤维 SVM DCCN 十字型三角型五角型哑铃型 VY 型结语卷积神经网络在处理二维图像时具有一定程度的位移旋转形变等不变性, 训练过的卷积神经网络可以用较小的计算代价识别待检测图像, 因此, 被广泛应用于二维图像识别领域本文将卷积神经网络引入异型纤维识别领域, 所设计的 7 层卷积神经网络, 可以逐层自动的进行特征学习和提取, 避免了传统识别算法中复杂的特征提取过程, 在实验中达到了 94.4% 的平均识别率, 优于 SVM 的识别结果, 而且对于扭曲形变比较严重的异型纤维, 也能取得较好的识别效果为了进一步提高异型纤维的识别率, 还需要验证不同的特征组合和网络结构对异型纤维识别效果的影响 REFERENCES [1] Sumin Li, Yan Wan, Peifeng Zeng. Effect of n Chain Code on Feature Parameters of Profiled Fibers [J]. Journal of Donghua University(Natural Science),208,34(5): [2] Rumelhart D, Hinton G, Wiliams R. Learning representations by back-propagating errors[j].nature,1986,323(6088): [3] X T Xu, L Yao, Y Wan. A new shaped fiber classification algorithm based on SVM[C]//The 2nd International Workshop on Intelligent System and Applications. China, Wuhan,2010:

[4] LeCun Y, Botou L, Bengio Y, et al. Gradient-based learning applied to document recognition[j]. Proceedings of IEEE,1988,86 (11):2278-2324. [5] LeCun Y, Boser B, Denker J S, et al.

6 [4] LeCun Y, Botou L, Bengio Y, et al. Gradient-based learning applied to document recognition[j]. Proceedings of IEEE,1988,86 (11): [5] LeCun Y, Boser B, Denker J S, et al. Backpropagation Applied to Handwriten Zip Code Recognition[J]. Neural Computation, 1989,1(4): [6] Lawrence, S.Giles, C.L.,Tsoi,A.C.,Back,A.D. Face recognition:a convolutional neural-network approach. IEEE Transactions on Neural Networks 8(1997) [7] Sermanet, P., Kavukcuoglu, Chintala,S., et al. Pedestrian detection with unsupervised multi-stage feature learning IEEE Conference on Computer Vision and Pattern Recognition(CVPR), IEEE(2013) [8] Hinton, G., Deng, L., et al. Deep neural networks for acoustic modeling in speech recognition: The shared views of four research groups. IEEE Signal Processing Magazine 29(2012) [9] Hubel D H, Wiesel T N. Receptive Fields, Binocular Interaction and Functional Architecture in the Cat s Visual Cortex [J]. Journal of Physiology,1962,160: [10] Fukushima K, Miyake S.Neocognitron. A new algorithm for pattern recognition tolerant of deformations and shifts in position[j]. Pattern Recognition,1982,15(6): [11] Hongtao Lu, Qinchuan Zhang. Applications of Deep Convolutional Neural Network in Computer Vision[J]. Journal of Data Acquisition and Processing.2016,1(31):1-17. [12] Zhiyuan Sun, Chengxiang Lu,Zhongzhi Shi, et al. Research and Advances on Deep Learning [J].Computer Science.2016,2(43). 作者简介 1 孙硕磊 (1989-), 男, 汉族, 硕士研究生, 主要研究领域为图像处理, 模式识别, 深度卷积神经网络在异型纤维图像识别中的研究和应用 2 吴欢 (1985-), 女, 汉族, 在职硕士研究生, 上海市松江区出入境检验检疫局 wuhuan@shciq.gov.cn 3 铁铮 (1992-), 女, 汉族, 硕士研究生, 主要研究领域为图像处理, 人体三维虚拟试衣 tzzoe1992@163.com

报告 1: 郑斌教授, 美国俄克拉荷马大学医学图像特征分析与癌症风险评估方法摘要 : 准确的评估癌症近期发病风险和预后或者治疗效果是发展和建立精准医学的一个重要前

报告 1: 郑斌教授, 美国俄克拉荷马大学医学图像特征分析与癌症风险评估方法摘要 : 准确的评估癌症近期发病风险和预后或者治疗效果是发展和建立精准医学的一个重要前东北大学中荷生物医学与信息工程学院 2016 年度生物医学与信息工程论坛会议时间 2016 年 6 月 8 日, 星期三,9:30 至 16:00 会议地址会议网址主办单位东北大学浑南校区沈阳市浑南区创新路 195 号生命科学大楼 B 座 619 报告厅 http://www.bmie.neu.edu.cn