精准的水下目标识别能力是水下机器人高效作业的保证。但是,在复杂多变的水下环境,设备采集到的图像普遍存在光照不均、对比度低、蓝绿色调、画面模糊等一系列问题。此外,受限于水下拍摄所需要的大量人力和物力,水下数据采集难度大,高质量的水下生物数据集极其缺乏,并且生物类别不够丰富,这给水下机器人基于光视觉的目标识别研究带来了很大的挑战。针对水下生物图像样本不足和图像质量差的问题,本文以海星、海胆、海参三类水下生物识别为例,提出了一种结合图像增强和Mask R-CNN框架在小数据集情况下实现水下生物目标检测和实例分割的方法。本文完成的主要研究工作如下:1)自建数据集及数据集增广。针对高质量的水下生物图像的缺乏以及其带来的深度模型过拟合问题:首先,通过人工打标签建立了包含84张图片、501个生物的初始数据集;然后,使用包括GAN(generative adversarial networks)在内的图像增广方法将数据集扩充到430张图片,包含2262个生物,为模型训练中的迁移训练、冻结训练创造条件,克服小样本情况下的过拟合现象。2)水下图像的增强技术。为解决水下图像质量差对目标识别的不利影响,从提高目标识别率的角度提出了一种改进的MSRCR(multi-scale Retinex with color restoration)图像增强算法。该方法不但大幅地提高了水下图像的观感,而且使水下图像的色彩分布更加均衡,有益于提高Mask R-CNN对水下生物的识别率。此外,还将该方法和暗通道先验、MSRCR、限制对比度直方图均衡等图像增强方法对比,从主观的视觉观感到传统的评价指标(信息熵、清晰度、对比度)和提高Mask R-CNN框架的识别率方面,验证了所提图像增强算法的有效性和先进性。3)基于Mask R-CNN的多目标多类别目标识别研究。首先,针对所使用的水下生物图像中待辨识的生物个体绝大多数是小目标的情况,对标准的Mask R-CNN框架做了适当的微调,并通过迁移学习和冻结训练,在经过图像增强后的数据集上进行多目标、多类别水下生物目标检测和实例分割,取得了98.20%的准确率、95.34%的召回率和95.09%的m AP(mean average precision)值。然后,再与YOLOv3(You only look once)、SSD(Single Shot Detector)和一种基于SIFT(Scale-invariant feature transform)的目标检测方法对比,进一步验证了本文所提出方法的有效性。通过对比图像增强前后的水下生物目标识别结果,以及本文提出的基于Mask R-CNN的目标识别模型和其它模型的识别结果,可以验证所提方法的有效性和优越性。同时,也说明了在小样本、水下场景下,合适的图像增强算法可以提升Mask R-CNN的性能,并且这种提升和客观图像质量评估的结果成正比。本文的研究成果为水下机器人的光学视觉系统提供了重要参考,在海洋生物资源调查、水下捕捞和海洋工事建造等方面具有广阔的应用前景。