水下鱼类识别在合理开发渔业资源,维持生态平衡等方面有大量的应用需求,开展水下鱼类识别的研究具有广阔前景。然而受限于鱼类数据集规模通常较小、鱼类特征复杂等因素,使用既有鱼类识别方法获得的结果往往存在识别精度不高、检测速度慢的问题。为解决上述鱼类识别挑战,本文对比分析了目标检测算法的网络架构,基于深度学习技术设计了两种方法,并通过对比实验验证了模型的有效性。本文的主要研究内容如下:针对如何提升水下鱼类识别精度的问题,本文提出了基于改进的Mask RCNN的水下鱼类识别算法。首先描述了鱼类识别准确度的影响因素,给出了实验动机及算法适切性分析,然后在Mask R-CNN算法的基础上进行改进,先在区域生成阶段定位图像特征区域并采用特征金字塔网络接收高层语义信息,之后采用Soft NMS（Soft Non-Maximum Suppression）算法、级联结构等方法解决候选框的误检漏检、正负样本矛盾等问题,最后在Fish4Knowledge数据集上设计对比实验,结果表明,本文所提算法与Faster R-CNN、DNN+、DCGAN和CNN-SENet相比将识别精度分别提高了4.7%、2.3%、4.3%和1.5%。除识别精度外,鱼类识别研究还需关注模型检测速度。针对如何提高水下鱼类模型检测速度的问题,本文实现了一种基于YOLOv4的单阶段水下鱼类识别算法。首先分析了YOLOv4算法的适切性及网络架构,然后采用Mosaic数据增强、路径聚合网络（Path Aggregation Network,PANet）、Mish激活函数及Drop Block方法解决数据集预处理、特征提取、梯度爆炸及模型过拟合问题,并采用迁移学习方法调用权重以加速模型训练,最后在Brackish Underwater Dataset数据集上设计对比实验。结果表明,基于YOLOv4算法的鱼类识别模型与Retina Net、Efficient Det、YOLOv3算法相比将检测速度分别提高了24fps、27fps和8fps。为进一步验证和展示实验模型的效果,本文在图形用户界面中对鱼类视频进行检测。