随着空间应用领域的扩展和各种信息需求量的大幅增加，卫星激光通信凭借其在速率、带宽、体积、重量和功耗等方面的优势越来越受到重视。对于卫星光通信来说，终端光学系统的性能直接影响通信的可靠性和稳定性，对于这部分的研究在军事和民用领域都有着重要的应用价值。终端光学系统设计需考虑多方面因素，在数万公里的传输距离情况下，终端系统要同时具备精密对准和稳定可靠的激光收发特性，还应具备小型轻量、结构简单等特性。在星地通信链路中，大气湍流效应使传输的激光光束发生波前畸变，严重影响了终端系统的性能，系统设计中还必须考虑对光束波前畸变的校正。然而精密对准、稳定可靠的激光收发特性在工程系统设计和实现上具有很大的难度，对光束波前畸变的校正更是加大了设计难度。这就使光学系统成为终端总体设计的一大难题，也逐渐成为近几年来国内外众多科研单位竞相研究的课题。本文正是基于高性能、小型化、轻量化通信终端系统研制的要求展开研究，设计出收发共用光学天线、具有光束精密对准、自适应校正波前畸变特性的一体化终端光学系统。本论文针对卫星激光通信终端光学系统展开研究。首先介绍论文选题的目的和意义，通过查阅相关的资料，对国内外几种典型的终端光学系统的结构型式和实现方式进行了研究。其次研究了星载激光通信终端系统构成和工作原理，针对各子系统的功能实现分析了其主要技术参数和选择标准。接着针对系统关键问题提出了相应的技术方案和具体设计实例：（1）结合激光器出射光束特性及系统总体要求，设计了一组望远镜结构准直透镜系统，并采用CODE-V光学设计软件对其进行了性能优化。设计结果表明，系统具有良好的准直效果；（2）推导了光学天线子系统初始结构的确定方法，然后结合具体的设计指标，运用光学设计软件完成对光学天线的优化设计和性能评价；（3）提出终端光学系统收发共用光学天线及偏振分光棱镜分离光路的设计方案，完成了将激光发射信道、激光接收信道、光轴校准信道整合一体的终端光学系统设计；（4）针对工作在大气环境中的终端系统易受大气湍流的影响造成传播光束波前畸变的情况，本论文将自适应光学技术应用于终端光学系统中，有望抑制光束波前畸变对系统的影响。最后对本论文主要的研究工作进行了详细总结，并提出今后要继续深入研究的工作内容。