图像的检测和分割任务使机械能够理解和感知周围环境,确定果实的具体位置和果实自身的生长信息,是自动施药、喷洒灌溉和采摘等生产工作的重要前提。针对自然果园场景下的芒果检测和分割中存在的一些难题,诸如芒果表皮光照不均、枝干枝叶遮挡以及果实重叠等,本文提出了融合对抗网络的Mask R-CNN（Mask Region-Convolutional Neural Networks）算法,以及结合Box IOU改进的Mask Scoring R-CNN算法。最后设计开发了芒果检测与分割系统,从而实现果园场景下的芒果高精度检测和实例分割。本文主要的研究工作和创新内容如下:（1）芒果数据库的建立。深度学习模型往往需要基于大规模的数据进行训练。而训练过程所用到的样本数据的数量、质量和多样性,都会直接影响到最终模型的性能。本文从自然果园场景中采集芒果图像数据,包含了多种不同程度的表皮光照不均、枝叶遮挡和果实重叠情况;芒果种类包括台农1号、澳芒和椰香芒等,从而获取了多样性十足的芒果数据。此外,利用Label Me标注软件进行芒果的实例掩膜标注,再进一步把所有数据随机划分为训练集、验证集和测试集,构建芒果数据集。其中,测试集包含光照不均、枝叶遮挡、果实重叠以及小中大目标等类别。本文采用了公开数据集COCO的评价指标和PR曲线等指标,以全面准确地评价本文模型的优势和劣势。（2）融合对抗网络的Mask R-CNN的芒果检测分割算法研究。本文在Mask R-CNN算法结构的基础上,在Mask分支上新增一个全卷积网络,作为多尺寸特征融合判别网络,并使原本的Mask R-CNN结构作为生成网络,两个网络以交替对抗的策略进行训练,从而形成对抗网络。其中优化的对抗损失采用本文设计的融合Smooth L1+IOU（Intersection over Union）损失。Smooth L1损失用来度量两个特征矩阵的差异性,IOU损失则用来衡量两个二值掩膜的相似性,将二者结合起来可以使模型性能明显提高,最终在总测试集上的分割AP达到85.1%,光照不均测试集的分割AP达到87.9%,枝叶遮挡测试集的分割AP为86.3%,以及果实重叠测试集的分割AP为81.1%。此外,还使用了小批量训练的优化方法,进一步优化模型的训练过程。实验最后设计了多个对比实验,包括模型在不同测试集上的表现,进一步展示了融合对抗网络的改进算法的优势。（3）结合Box IOU改进的Mask Scoring R-CNN芒果检测分割算法研究。本文在ROI Align（Region Of Interest Align）层后添加了一个由三层全连接层构成的Box IOU并行分支结构,为RPN（Region Proposal Network）输出的候选框预测IOU得分,再将此得分与分类置信度进行加权耦合,作为最终测试阶段的非极大抑制的排列依据,以此筛选出定位更准确的检测框,从而提升模型的性能。其中IOU得分的耦合因子通过验证集实验筛选为0.6。最后,在多个不同的芒果测试集上验证改进算法的性能,并与其它算法进行对比和分析,证实Box IOU改进算法的有效性。最终模型在芒果总测试集的检测AP达到82.6%,在光照不均测试集的检测AP达到了85.5%,枝叶遮挡测试集的检测AP达到83.5%,果实重叠测试集的检测AP为79.1%。（4）芒果检测与分割系统的设计与实现。本文通过高性能的笔记本电脑和海康威视的半球网络高清摄像机等硬件设备,以及结合Microsoft Visual Studio 2013和Pycharm等开发软件编程实现了芒果检测与分割系统的页面和功能。系统功能主要涵盖数据选择、模型选择、任务选择以及结果展示四大项。能够实现离线或在线的芒果图像或视频帧序列的检测、分类与分割。主界面能够展示所选模型的信息、任务信息、执行耗时,以及芒果目标个数等。