空间遥感技术的发展对星间通信链路的数据传输速率提出了更高的要求,星间激光通信凭借其极高的数据传输速率成为星间高速通信的首选。在星间激光通信系统中,发射端与接收端之间的瞄准误差将会对系统性能产生较大的影响。为了进一步提升星间激光通信系统的有效性和可靠性,利用修正的Rayleigh分布描述了瞄准误差的分布情况,分析了瞄准误差对星间激光通信系统误码率、中断概率以及信道容量的影响,给出了在相应的系统性能衡量指标最优下的参数选取方法。(1)采用误码率作为系统性能的衡量指标,建立了星间激光通信系统模型,利用高斯Q函数的边界给出了系统ABEP边界的闭合表达式。仿真结果表明,存在最优的光束束腰半径使得系统误码性能最佳,并且最优束腰半径随着瞄准误差抖动程度以及发射功率的增大而减小。(2)采用中断概率作为系统性能的衡量指标,结合星间激光通信链路传输方程,给出了系统中断概率的闭合表达式,分别在满足一定的中断概率和发射功率的条件下,给出了发射光束最优均方根宽度的解析表达式。仿真结果表明,可以通过选取发射光束最优均方根宽度来实现系统中断概率性能的优化。(3)采用信道容量作为系统性能的衡量指标,给出了瞄准误差影响下的信道转移概率矩阵,建立了互信息优化模型,并利用拉格朗日乘数法对模型进行了求解,得到了最优输入信号概率分布的解析表达式。仿真结果表明,最优输入信号分布下的互信息值要明显高于等概率分布时,可以通过最优输入信号概率分布设计来实现系统性能的优化。(4)对传统的动态束腰控制方案进行了改进,在不需要采取任何近似的情况下,采用了一种基于Marcum Q函数的瞬时信道状态模型,给出了相应的动态束腰控制方案。仿真结果表明,本文所提出的动态束腰控制方案相比于传统的动态束腰控制方案在系统性能上有一定的提升,并且这种性能增益随着链路传输距离的减小而增大。