基于Mask R-CNN的芒果实例分割及采摘点检测研究与实现

来源 :华南农业大学 | 被引量 : 0次 | 上传用户:liu6541
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
智能化农业的目标就是用机器取代人从而解放生产力,通过提高生产效率和降低劳动力成本,解决传统农业的弊端。可靠、准确的多类分割是高级机器人感知任务的关键组成部分。在农业机器人的背景下,图像分割算法使机器人能够理解环境、采摘作物、监测作物健康状况、产量估测,是机器人取代人力完成任务的前提和基础。针对实际果园场景下芒果分割和采摘过程中存在的遮挡、重叠、小目标等问题,本文研究了基于改进FCIS的芒果实例分割算法、基于改进Mask R-CNN的芒果实例分割算法,以及基于Mask R-CNN关键点检测的芒果采摘点检测算法。最后为了将研究落地,设计和开发了芒果实例分割及采摘点检测系统,实现了便携笔记本上的芒果实例分割及采摘点检测任务。本文主要研究内容和创新如下:(1)数据集及模型评价指标。数据是深度学习算法的基础,而且数据的好坏直接影响了训练得到的模型性能。数据的多样性使训练的模型可以应对更多的情况,鲁棒性更强。本文芒果数据采集于自然果园场景,涵盖了实际采摘过程中可能遇到的问题,如光线变化、背景干扰,特别是果实遮挡、重叠及小目标。另外人工对采集整理后的数据进行了图像增强和扩增,如改变图像的对比度、亮度、色度与锐度等。为了更准确的区分不同尺寸目标,本文按像素面积将芒果划分为大、中、小三个等级。使用Labelme工具对芒果进行人工标注,得到训练集、验证集以及测试集的JSON文件。本文采用COCO数据集的评价指标衡量模型性能,并分析了评价指标的全面性和准确性。(2)基于改进FCIS的芒果实例分割算法研究。FCIS是基于位置敏感分数图(score map)的实例分割算法。FCIS未针对每个ROI添加全连接层或卷积层进一步提取特征,而是直接通过位置敏感图分出前景与背景以及类别信息。本文引入PSROIAlign,使得ROI池化到位置敏感分数图上的位置更加精准,最后分割结果也更精确。在主干卷积引入特征金字塔结构(FPN),通过在不同尺寸特征图上生成ROI,实现对不同尺寸芒果个体的有效分割。为了进一步实现轻量化的目标,将基础卷积的Res50替换为Mobile Net V2结构,实现了模型的大幅压缩和提速。最终模型的AP达到70.10%,大小只有47.00M。(3)基于改进Mask R-CNN的芒果实例分割算法研究。Mask R-CNN算法是在Faster R-CNN的基础上通过增添一条FCN分支实现实例分割。本文为了进一步增强底层特征与高层特征的融合,在FPN的基础上搭建FPN-BU结构,大大缩短低层特征图与高层特征图的融合路径,实验结果证明FPN-BU结构带来分割精度的提升。为了进一步提高重叠果实的分割精度,用Soft-NMS代替NMS,避免对重叠锚点框的误删,增强了模型在果实重叠情况下的分割性能。为了进一步提高FCN掩码预测分支的特征提取能力和加强梯度的反向传播,将原本4层普通卷积替换为残差结构,带来了最终分割精度的提升并使网络易于训练。三种改进都带来了精度上不同的提升,最后AP达到了83.00%。在重叠、遮挡数据集上的效果也证明了改进策略的有效性。对比实验还体现了改进Mask R-CNN分割精度上的领先优势。(4)基于Mask R-CNN的芒果采摘点检测。传统方法定位水果采摘点需要复杂的步骤和人工干预,而且最终检测精度不高,鲁棒性差。在研究了深度学习关键点检测算法架构后,本文基于Mask R-CNN的人体关键点检测算法,设计了芒果采摘点的自动检测方法。模仿人体关键点在芒果及果梗选取三个关键点(P1、P2、P3),其中P1是真正的采摘点。将标注数据送入Mask R-CNN算法进行训练来预测关键点掩码,最终实现芒果采摘点的自动检测。针对297个标注采摘点的检测准确率达到92.90%,召回率达到96.97%。并且还与传统采摘点检测方法进行了对比实验,准确率占据优势,却没有传统方法复杂的步骤。(5)芒果实例分割及采摘点检测系统设计与实现。本文利用高性能便携笔记本、海康威视半球网络摄像机、海康威视硬盘录像机等硬件设备,通过Pycharm、Microsoft Visual Studio 2013等软件,将训练好的模型进行封装,设计了基于Windows下的芒果实例分割及采摘点检测系统。系统由数据获取、数据解码及预处理模块、模型选择及调用模块、自动分割及检测模块、结果显示模块五部分组成,实现了芒果目标的自动分割、采摘点定位、产量估测与计数等功能。
其他文献
本研究通过田间试验,设置5个不同的硅肥施用量处理:0(T1)、97.5(T2)、146.25(T3)、195.00(T4)、243.75(T5)kg·hm-2,探讨了不同硅肥施用量对冬作马铃薯干物质积累和分配的影响,对马铃薯的产量、品质和经济效益的影响以及马铃薯生育进程中氮、磷、钾、钙、镁、硅6种养分元素的吸收、积累和分配变化规律。主要研究结果如下:(1)随硅肥施用量的增加,马铃薯的单株块茎质量和
本论文研究饲料中添加不同水平桑叶(Morus alba)及其复方对吉富罗非鱼(Genetic Improvement of Farmed Tilapia,GIFT Oreochromis niloticus)生长性能、免疫、抗氧化及血清生化的影响。试验选取初始体重为13.45±0.05 g的健康罗非鱼630尾,随机分为7个组(D0、M1、M2、M3、MC1、MC2、MC3),每组3个重复,每个重复
膜分离技术在乳品加工行业中占据着极其重要的地位,可基于膜孔径筛分作用及电荷效应,实现不同功能目标产物的高效分离。本文介绍了膜分离技术的过程及机理,并对不同类型的膜在乳品加工行业中的应用进行了分析讨论,重点阐述了乳品工业各环节中膜技术应用的难点及其相关研究成果,主要包括乳品除菌、乳品浓缩、蛋白分离、乳糖脱除及加工废水处理。最后基于目前所采用的膜材料及工艺,指出了膜技术处理乳制品未来的研究方向,为膜分
乳酸在食品、医药、化妆品、农业、化工等方面都有着广泛的应用,是生物体机体代谢的重要中间产物,也是世界上公认的三大有机酸之一。然而,目前报道的能够产乳酸的芽孢杆菌菌种很少。本文从内蒙古传统发酵酸奶中分离出一株菌种DU-106,该菌具有高产乳酸的特性。本论文进一步对该菌株进行系统分类地位鉴定并进行比较基因组学分析,本文结果与结论如下:菌株DU-106为革兰氏阳性菌,呈现棒状,增殖方式为内生孢子,兼性厌
近年来花卉产业不断崛起,因其优美的观赏性成为了人民生活中不可或缺的一部分,在种植业新兴产业中占领着一席之地。随着我国对外开放进程的不断发展,各国间贸易往来愈加频繁,物种引进、货物运输等带来的外来有害生物入侵危害也较为严重。广州作为改革开放先行地之一,地域位置优越,气候条件适宜,物流交易频繁,适宜多种园林植物花卉的生产、交易和运输,但是庞大的市场伴随着的不仅是可观的经济效益,随之而来的还有外来有害生
为开发新型蛋白资源,本论文研究了黑水虻(Hermetia illucens L.)幼虫粉替代鱼粉对吉富罗非鱼(GIFT Oreochromis niloticus)生长性能和饲料利用、体成分、肌肉品质、抗氧化、碱性磷酸酶、血清生化指标、肠道形态及免疫因子表达的影响。试验选取初始体重为9.22±0.01 g的健康状况良好、规格均匀的罗非鱼600尾,随机分为5个组D0(鱼粉对照组)、S1(替代25%鱼
本实验通过对华南地区典型农作物(玉米、水稻、大豆)秸秆定期喷洒不同酸度的酸雨,结合酸雨对秸秆理化性质、分解相关酶活性及微生物结构的影响,探讨酸雨对秸秆养分释放的影响机制。实验设置三个处理:重度酸雨pH3、轻度酸雨pH5、CK(pH≈7.80),每个处理4个重复。本实验为期六个月,在处理后第1、2、4、6个月收集秸秆样品,每袋样品分2g于烘箱中烘至恒重并计算其干重剩余率及C、N、P含量测定,其余鲜样
猪肉是我国主要的肉类产品,随着国民生活水平的提高,老百姓对猪肉的需求量不断增长,因此提高猪肉产量对国民生活有着重要意义。猪肉按其结构和功能的差异,可以分为骨骼肌、平滑肌和心肌,其中骨骼肌是其最主要构成类型。因此,研究骨骼肌的发育调控过程有助于提高猪肉产量。猪骨骼肌的发育按肌纤维形成的过程大致分为两个阶段:在妊娠35天左右形成初级纤维,这个过程将一直持续到妊娠第60天;在妊娠50-60天时开始形成次
本文以氨基酸导向农药理念为指导,结合昆虫取食溴虫腈后,在昆虫体内通过多功能氧化酶转变为具体杀虫活性化合物溴代吡咯腈,以溴虫腈为农药母体结构,设计构建并合成了两个不同系列氨基酸-溴虫腈偶合物,目的使新农药到达植物体内特定部位断裂酰胺键,随后在昆虫取食氨基酸-溴虫腈偶合物后,进入昆虫体内转变成溴代吡咯腈发挥药效。根据Chollet et al.,(2004)合成了含有羧基的杀真菌剂拌种咯(Fenpic
芦花鸡是我国较为原始的肉蛋兼用型品种,有着独特的外貌特征:全身羽毛呈黑白相间、宽窄一致的斑纹状。芦花表型是家禽中首先发现的性连锁遗传表型,但关于它的形成机制目前还在进一步探索中。本研究以不同表型的芦花鸡和非芦花表型的地方鸡为研究对象,研究其与CDKN2A基因上的4个SNP位点的关系,建立芦花基因的分子检测技术,这将对我国芦花鸡的选育与芦花基因的应用有重要意义。本研究采用PCR扩增和DNA Sang