论文部分内容阅读
摘 要：本研究利用卷积神经网络LeNet识别了一批焊接缺陷图像，发现图像的分辨率对于缺陷的识别正确率有很大的影响;发现原始的LeNet在各种情况下具有高度的稳定性，而几个变形网络结构虽然在存储空间以及运算速度方面有一定的优势，但是稳定性都不及原始的网络结构。
关键词：卷积神经网络;LeNet;焊接缺陷识别
一、引言
利用深度卷积神经网络实现人工智能，已然是一种时髦的趋势，也很有可能剧烈的改变传统检测行业的形态。在医学检测领域，人工智能在识别CT图像方面的能力，已经超过中等能力的专家。而在工业检测领域，人工智能判别缺陷类别的工作，尚处于起始阶段。由于TOFD、相控阵、数字射线、CT、磁共振等新的检测手段以及成像技术的发展，使得数字图像的获取变得非常容易，也使得人工智能识别缺陷成为可能。
在輸油管道等制造中，因为产品规格单一，数量巨大，所以很多企业采用了自动焊接，数字射线半自动化检测的流程。自动化焊接的焊缝波纹很小，表面平整光滑，故而射线图像没有多余的干扰，非常适合智能识别。
二、数据
我们采用软件模拟的方式，仿制了一批数字射线图像（见图1），分为4类：完好无缺陷、裂纹、未焊透、圆形缺陷。每类图像1000张，分拆为800张训练数据，200张验证数据。4类缺陷合计3200张训练图片，800张验证图片。
三、网络结构
LeNet是卷积神经网络的祖师爷LeCun在1998年提出的，用于解决手写数字识别的视觉任务，主要应用于银行系统的支票识别，取得了极大的成功。该网络能够处理的图像分辨率不低于32×32，它的网络结构如图2所示：
四、不同分辨率图片的预测准确率
我们将图像的分辨率分别调整为32×32，64×64，128×128，用训练集的3200张图像训练网络参数，然后用验证集的800张图片预测种类。如此反复执行30遍，原则上，每多训练一遍，预测的正确率都会提高一点。实测结果（见图3）分析如下：
1. 若分辨率太低（32×32），则图像不够清晰，各种缺陷的特征不够显著，所以正确率不超过50%，效果差。
2. 随着分辨率的提高，预测准确率也在提高。当分辨率为64×64时，准确率约为98%;当图片分辨率为128×128时，准确率约为100%.
3. 无论是训练集还是验证集，随着训练次数的增加，在训练过程中，其准确率总是有稍许跳动，原因不明。
五、改变LeNet的结构
原始的LeNet网络预测效果虽然很好，但是它的参数量较大，运行时间也不够快。如果我们将该网络放到移动端设备上，则希望压缩存储空间，并降低对CPU计算速度的要求。我们将原始的LeNet网络做少许的修改，看看是否有效果（图4）。在LeNet1中，我们将5*5的卷积核替换为2个3*3的卷积核，其余不变;而在LeNet2中，我们将每一层的特征图以及每一层的特征数，都设定为2的幂次。
1. 经过实测，LeNet1的预测正确率约为99%，LeNet2的正确率约为99%，都比LeNet0的正确率低。
2. LeNet0的参数量为61196，LeNet1为59904，LeNet2的参数量为10972。所以LeNet2更适合放到存储空间受限的设备中。
3.预测相同的32张图像，LeNet0用时1.56ms，LeNet1用时1.26ms，LeNet2用时1.28ms.从时间上看，它们比较接近。
六、结论
从测试结论可知，LeNet对于背景较为干净的自动化焊接缺陷具有很高的识别正确率。而经过简单变形的网络，会稍微降低识别正确率，但是可以大幅度的减少存储空间。
参考文献
[1] 肖智清. 神经网络PyTorch实战[M]. 机械工业出版社. 2018.8
[2] 言有三. 深度学习之图像识别[M]. 机械工业出版社. 2019.7
[3] 吴茂贵等. Python深度学习[M]. 机械工业出版社. 2019.10
[4] 张若愚. Python科学计算[M]. 清华大小出版社. 2018.1
作者简介：邢秀文（1979-），男，硕士，北京理工大学珠海学院教师，历任大学物理教研室主任，物理实验室主任，工程物理系主任，主讲声学基础、射线检测、机器视觉。
关键词：卷积神经网络;LeNet;焊接缺陷识别
一、引言
利用深度卷积神经网络实现人工智能，已然是一种时髦的趋势，也很有可能剧烈的改变传统检测行业的形态。在医学检测领域，人工智能在识别CT图像方面的能力，已经超过中等能力的专家。而在工业检测领域，人工智能判别缺陷类别的工作，尚处于起始阶段。由于TOFD、相控阵、数字射线、CT、磁共振等新的检测手段以及成像技术的发展，使得数字图像的获取变得非常容易，也使得人工智能识别缺陷成为可能。
在輸油管道等制造中，因为产品规格单一，数量巨大，所以很多企业采用了自动焊接，数字射线半自动化检测的流程。自动化焊接的焊缝波纹很小，表面平整光滑，故而射线图像没有多余的干扰，非常适合智能识别。
二、数据
我们采用软件模拟的方式，仿制了一批数字射线图像（见图1），分为4类：完好无缺陷、裂纹、未焊透、圆形缺陷。每类图像1000张，分拆为800张训练数据，200张验证数据。4类缺陷合计3200张训练图片，800张验证图片。
三、网络结构
LeNet是卷积神经网络的祖师爷LeCun在1998年提出的，用于解决手写数字识别的视觉任务，主要应用于银行系统的支票识别，取得了极大的成功。该网络能够处理的图像分辨率不低于32×32，它的网络结构如图2所示：
四、不同分辨率图片的预测准确率
我们将图像的分辨率分别调整为32×32，64×64，128×128，用训练集的3200张图像训练网络参数，然后用验证集的800张图片预测种类。如此反复执行30遍，原则上，每多训练一遍，预测的正确率都会提高一点。实测结果（见图3）分析如下：
1. 若分辨率太低（32×32），则图像不够清晰，各种缺陷的特征不够显著，所以正确率不超过50%，效果差。
2. 随着分辨率的提高，预测准确率也在提高。当分辨率为64×64时，准确率约为98%;当图片分辨率为128×128时，准确率约为100%.
3. 无论是训练集还是验证集，随着训练次数的增加，在训练过程中，其准确率总是有稍许跳动，原因不明。
五、改变LeNet的结构
原始的LeNet网络预测效果虽然很好，但是它的参数量较大，运行时间也不够快。如果我们将该网络放到移动端设备上，则希望压缩存储空间，并降低对CPU计算速度的要求。我们将原始的LeNet网络做少许的修改，看看是否有效果（图4）。在LeNet1中，我们将5*5的卷积核替换为2个3*3的卷积核，其余不变;而在LeNet2中，我们将每一层的特征图以及每一层的特征数，都设定为2的幂次。
1. 经过实测，LeNet1的预测正确率约为99%，LeNet2的正确率约为99%，都比LeNet0的正确率低。
2. LeNet0的参数量为61196，LeNet1为59904，LeNet2的参数量为10972。所以LeNet2更适合放到存储空间受限的设备中。
3.预测相同的32张图像，LeNet0用时1.56ms，LeNet1用时1.26ms，LeNet2用时1.28ms.从时间上看，它们比较接近。
六、结论
从测试结论可知，LeNet对于背景较为干净的自动化焊接缺陷具有很高的识别正确率。而经过简单变形的网络，会稍微降低识别正确率，但是可以大幅度的减少存储空间。
参考文献
[1] 肖智清. 神经网络PyTorch实战[M]. 机械工业出版社. 2018.8
[2] 言有三. 深度学习之图像识别[M]. 机械工业出版社. 2019.7
[3] 吴茂贵等. Python深度学习[M]. 机械工业出版社. 2019.10
[4] 张若愚. Python科学计算[M]. 清华大小出版社. 2018.1
作者简介：邢秀文（1979-），男，硕士，北京理工大学珠海学院教师，历任大学物理教研室主任，物理实验室主任，工程物理系主任，主讲声学基础、射线检测、机器视觉。