光电系统是集光学系统、精密机械、电子系统、计算机系统等单元为一体的综合系统,在跟踪瞄准、天文观测、通信传输、精密测量、材料加工等领域均具有重要的应用。在光电系统中,信号处理的功能为对各类输入信息进行分析、进而驱动控制单元,是系统运行的核心环节。而图像携带信息量丰富,是应用最为广泛的一类信息,因此图像识别成为信号处理中的关键问题。本文将卷积神经网络（convolutional neural network,CNN）作为研究工具,用于完成光电系统中的图像识别任务,替代人工分析,对提升光电系统的运行效率具有重要价值。随着无人机技术的快速发展,搭载丰富功能的无人机广泛应用于多种场景,光电系统迎来了新的机遇与挑战。对于己方无人机,光电系统可通过完成远程充电、地空通信等任务,保障其长时间、高效地运行;对于未知来源的无人机,光电系统应具备有效识别、监视目标的能力,并构筑合理的安全防控。上述应用包含锁定与发射两部分,图像识别在其中均扮演着重要的角色:对于前者,本文研究的对象是无人机关键点识别,可对目标上能量转换设备、信号接收装置等部位进行锁定,为充能、通信光束提供指引;对于后者,本文研究根据远场光斑图像估计波前活塞相位,可高效合成高质量光束,用于远程充电、信号传输等。本文主要研究内容如下:（1）提出基于级联神经网络的无人机关键点回归算法:为了抑制背景中的干扰物对目标关键点识别造成的不利影响,提出一种两阶段的无人机关键点回归算法。在算法的第一阶段使用基于锚点的目标检测算法提取目标整体的位置信息,在原图上进行裁剪送入下一阶段。第二阶段基于目标整体信息定位关键点。级联的设计有利于分阶段过滤背景信息,轻量化结构的引入使模型同时具有相对较高的运算效率。（2）提出基于多层级特征融合与置信度预测的无人机关键点识别算法:为了使模型具备有效定位目标上多个同一属性的关键点的能力,提出一种基于热力图表示的关键点识别算法。为了有效应对无人机目标飞行中的姿态变化与关键点局部特征不明显的问题,设计了新型的多层级特征融合网络结构,增强模型利用上下文信息、获取鲁棒特征表示的能力。同时还设计了置信度预测机制,并以此监督细化网络,提升模型在定位识别难度较高的关键点（如被遮挡关键点）上的表现。（3）提出智能相位识别算法:首先针对活塞相位到远场图像之间的映射关系进行了理论分析,确定了相位模糊问题的产生原因,设计了相位调制方法有效解决相位模糊问题,有效避免模型难以收敛。然后在理论研究的基础上构建了基于相位调制的CNN模型用于相位识别,并与SPGD进行性能对比,仿真结果表明提出的模型在相位补偿效果与整体运行时间上具有优势。此外,还为相位预测这一任务设计了全新的损失函数,解决原先评价函数不合理的问题。最后,设计了全新的损失函数,有效提升CNN模型的训练效果与泛化能力。本文研究以CNN为基础,解决光电系统针对无人机目标进行远程充电、安全防控中图像识别的代表任务。在目标锁定阶段,本文提出的模型有效实现高精度的无人机目标关键点定位,有助于实现对目标上特定部位进行精准跟踪。在发射阶段,本文提出的模型能有效解决相位模糊问题,通过单次推断获得准确的相位信息,有利于高效合成高质量的光束。同时,上述研究也验证了基于CNN的图像识别在解决光电系统信号处理环节任务的有效性,为CNN在系统中的应用奠定一定基础。