本文所提到的光电跟踪系统主要是针对空间光通信跟踪控制系统。空间光通信是极具前景的通信方式。由于空间环境复杂,通信距离遥远,而可靠的光通信对跟瞄精度要求很高,所以,捕获,跟踪和瞄准(ATP)技术成为实现空间光通信的关键和难题。高精度的视轴稳定技术是实现整个ATP功能的核心。因此,对空间光通信ATP中的视轴稳定系统的研究非常必要。本文简要介绍了空间光通信与ATP技术的概念,关键技术,发展现状,以及各子系统组成和相关技术。并分析系统的噪声振动和研究抑制它们的方法,重点采用复合轴控制。为提高系统的视轴稳定精度,本文研究了两种方案。分别是采用模糊PID控制的复合轴系统和基于莫尔条纹检测法的三复合轴伺服系统。在第一个方案中,首先设计出具有参数自整定功能的模糊PID控制器,结合复合轴跟踪子系统和各环路的传递函数,在Matlab环境下进行仿真。通过仿真分析系统的动态响应和稳定性,和传统PID控制系统进行比较。并进一步提出了一种基于小波的模糊PID控制策略,实时在线调整隶属函数的形状。仿真实验验证了算法的有效性,并具有较好的稳定性和动态性能。结果表明,模糊PID控制系统优于传统控制系统,能有效的提高系统的视轴稳定精度和增强系统的稳定性。在第二个方案中,研究出莫尔条纹具有检测微小位移的能力,参照复合轴控制系统的设计理念,设计出一套三复合轴控制系统。理论分析表明,其能提高视轴稳定精度一个数量级。