油茶果在中国的栽种历史超过两千年,被誉为“东方橄榄油”,具有极高的营养价值和经济价值。在油茶果生产作业中,人力成本占整个采收成本的20～30%,由于我国正在进行产业升级,大量人员涌入第二、第三产业,目前从事农业相关的人员数量越来越少,劳动力短缺问题日益严重。而使用机械化设备对油茶果进行自动化采收则可以大大降低人工作业成本,有望缓解劳动力不足的问题,其中油茶果果实的准确定位是油茶果采摘设备正确工作的关键。本研究基于深度学习技术,开发了非结构化场景下的油茶果目标检测系统,主要包括油茶果图像增强子系统和油茶果果实目标检测子系统,其主要的研究内容及结论如下:（1）针对现有低照度增强算法难以对自然场景下的油茶果图像进行符合语义增强的问题,提出了一种油茶果低照度增强算法（A-UNet）。A-UNet是U-Net卷积神经网络（CNN）的基础上,融合通道注意力机制的低照度图像增强算法。试验结果表明,A-UNet对图像增强后的峰值信噪比（PSNR）、结构相似度（SSIM）、相对亮度顺序（LOE）、特征相似度（FSIM）分别为31.76、0.98、37.49、0.98;使用经A-UNet增强后的油茶果数据集训练YOLOv4模型,在测试集下的准确率（P）为93.85%,召回率（R）为89.63%,全类平均正确率（m AP）为93.85%,综合评价指标（F1）值为0.92,分别比对照组模型的P、R、m AP、F1提高了6.33%、9.25%、7.93%和7.89%,表明将A-UNet应用于低照度油茶果图像的增强是可行的、有效的。（2）针对常见目标检测算法在果实重叠时识别精度较低的问题,提出了一种Soft-YOLO油茶果重叠果实识别算法。传统的目标检测算法剔除重叠部分的相邻预测框时,多采用贪心NMS算法,直接将重叠区域得分较低的框剔除掉,容易导致重叠果实的误检和漏检,而Soft-YOLO在进行重复框的筛选时,将NMS的硬置零策略修改为设置衰减函数,从而允许网络在果实重叠区域精准识别对应的果实,增加网络对重叠果实目标的检出率。试验结果表明,该算法可对处于不同重叠程度下的油茶果果实图像进行高精度识别,本算法检测精度为94.74%,优于原始YOLOv4网络的93.43%,可以满足油茶果采收机器人对果实定位精度的需求。（3）针对夜间环境下油茶果果实图像识别精度较低的问题,提出了一种夜间油茶果识别算法YOLON。YOLON在目标检测网络YOLOv3的基础上,引入照度自适应调整模块（LA）,可以自适应地对夜间油茶果果实图像进行照度调整,使得特征图中轮廓和细节的表达更加清晰。此外,本研究提出了夜间先验知识模块（NPK）,对网络的误差进行数据建模,以辅助因子的形式对网络特征图的预测结果进行精细化调整,从而提高网络的识别精度。试验结果表明,本研究所提出的YOLON模型在夜间油茶果图像的测试m AP为94.37%,优于原始YOLOv3模型的92.23%,可以满足油茶果采收机器人对定位精度的要求。（4）利用PyQt5进行油茶果目标检测软件系统的设计。结合所提出的油茶果目标检测方法,设计了非结构化环境下的油茶果综合图像处理系统,通过对自然场景下采集到的油茶果果实图像进行照度调整,并针对不同场景下的油茶果果实图像进行目标检测。实验结果结果表明,该系统可以准确、实时地对于油茶果图像进行照度增强、目标检测。