星间光通信作为新的星间通信技术途径，对于在卫星网络间建立大容量，费用效能比相对较低的通信系统具有重要的意义。与传统的星间射频系统相比，星间光通信系统在天线尺寸，光发送机和接收机设备的重量，容量和传输速率等方面具有优势。 本文针对工作波长为1550 nm的长波长星间光通信系统进行了系统的理论研究并对系统进行了原理性的设计，内容包括瞄准捕获跟踪系统(PAT)的设计、光发送／接收系统的设计、对光信号放大特性的研究以及机械控制系统的设计等。 在第一章中，介绍了星间光通信系统研究的历史和发展现状。通过对典型的星间光通信系统和射频系统的比较，分析了星间光通信系统的优越性。同时，对星间光通信系统的构成作了原理性的说明，并针对典型的近地轨道星间光通信系统进行了相应的功率预算。在第二章中，完成了PAT系统及其光学平台的设计工作。在粗瞄准和细瞄准跟踪子系统中分别采用了正交双轴的万向节和压电陶瓷调节结构作为驱动结构，并采用大视场、宽范围和窄视场、高速响应和高灵敏度的CCD阵列分别作为相应的捕获和跟踪传感器件。设计中首次提出了利用二元光学透镜组对信标光束进行整形、扩束、准直和精细整形的思路。并根据实际捕获和跟踪过程的要求，通过数值计算完成了相应的二元光学器件的设计。 在第三章中，首次提出了一个通过空间的相干检测方式并利用电光光束偏转器来实现对目标卫星跟踪的星间光通信系统跟踪方案。针对星间光通信跟踪系统的工作特点，在对两类非中心对称各向异性晶体的电光效应进行分析的基础上，确定了电光光束偏转器的材料和工作原理，同时分析了入射光束偏角和光束可控偏转角度的关系。通过对系统跟踪精度和平均信噪比的分析，完成了对电光光束偏转器外加电场的优化，使系统跟踪精度在理论上达到了0.5μrad以下，优于原始方案跟踪精度并简化了系统的光学平台设计。 在第四章中，完成了光发送机系统的设计，包括通信光源和调制器件的选择，光信号放大器以及相应光学分系统的设计等。同时，根据星间光通信系统对光学天线性能的要求完成了镜面反射型光学天线的设计。理论分析表明，该型光学天线的设计完全符合系统的要求。在此基础上建立了PAT系统对准误差对系统误码率影响的分析模型，利用数值方法对光学天线口径作了优化设计。为了降低PAT对准误差对系统误码率的影响在理论上研究了天线对准误差自适应补偿的方法。在第五章中，建立了描述掺铒光纤放大器光信号放大机制的理论分析模型，利用数值模拟的方法，得到了大信号、大泵浦功率条件下光信号放大的特性并分析了放大的自发发射噪声对掺铒光纤放大系统信噪比增益的影响。在此基础上设计了适用于星间光通信的增益自动控制、泵浦功率递增的级联掺铒光放大器：针对天线对准误差引起的系统误码率提高和对系统电子带宽限制的特点，提出了基于光前置放大器和PIN光电二极管结构的自适应光接收机工作方案，通过优化光前置放大器增益和前置放大电路电子带宽来补偿光学天线对准误差，并通过数值计算论证了该方案的可行性。在第六章中，根据星间光通信系统所受的环境限制因素，完成了光学天线子系统和万向节子系统机械结构的原理性设计。根据弹性阻尼连接对系统高频振动影响的理论模型，完成了光学大线及万向节系统与卫星主体弹性连接方式的原理性设计工作。