卫星激光通信技术逐渐成为国际上的研究热点。在星间卫星光通信中,通信的两个终端需要实时地跟踪信标光。在跟踪阶段,太空中的恒星背景光有可能进入光学终端在CCD接收面上形成光斑,使系统很难确定信标光的确切位置。背景光斑会影响光束指向控制,使整个系统的跟踪稳定性下降,严重时会造成激光链路中断。针对上述问题,本文主要研究了如何准确识别跟踪信标光,降低或者消除恒星背景光对系统的影响。首先,本文总结了目前抑制背景光以及识别信标光的方法的研究现状,针对星间激光通信系统跟踪阶段的特点,明确了本论文的研究方向。其次,为了提取和跟踪目标,本文提出了一种基于光流法跟踪信标光的方法。对于光斑发生部分重合的情况,本文提出了光斑质心的计算方法。为了快速去掉噪声光斑,基于光流跟踪光斑的结果,提出了质心坐标序列统计去噪法。第三,为了满足系统实时性跟踪要求,本文提出了一种自适应预测算法,并利用自适应预测算法对信标光的运动轨迹作预测仿真分析。本论文通过模拟实验验证了光流跟踪法和自适应预测法的有效性。利用快速偏转镜来模拟卫星平台的振动,CCD作为终端接收探测器,搭建了模拟实验系统。模拟实验考虑了比较典型的卫星平台振动频率,在多种典型的模拟振动环境下,验证了算法的环境适应性以及可靠性。