相比于传统卫星微波通信,卫星激光通信具有通信速率高、抗干扰能力强、资源消耗少等优点,是一种新型通信技术。作为空间高速信息网络的重要组成部分,星间激光通信担负着数据中继的重要作用,以微弧度量级发散角的光束在数千公里远的距离实现通信,需要特殊的识别、指向与跟踪(Acquisition,Pointing and Tracking:APT)光束控制系统,现今APT系统主要存在的问题是质量大、体积大、指向精度不高,本文以实际工程需求为背景,采用数值仿真与实验分析结合的方法,针对上述问题对APT系统指向性能及结构进行了研究,主要研究内容包括:首先,对影响APT系统指向指标的关键因素进行了分析。分析了角度随机误差对APT捕获机构指向精度的影响,研究了角度随机误差的形成原理,提出了一种改进Rayleigh型的角度随机误差模型,与传统Rayleigh模型相比可以将链路保持时间的预测精度提升2.8倍;分析了星间相对运动情况,建立了星间相对运动模型,推导了星间距离、星间夹角、星间角速度计算公式,并以实际卫星轨道数据为依据进行了仿真分析,结果显示LEO-LEO星间链路相对运动速度最大约为0.5°/s;研究了中继光路指向误差分析的基础理论,给出了误差传递计算公式,并对系统同轴度误差产生原理进行了分析。其次,针对APT系统体积大、质量大、指向精度不高的问题,结合实际工程需求,对L型APT进行了深入研究。通过对比分析典型APT转台的性能,确定了以L型APT为研究对象,对L型APT捕获机构进行了优化设计,研究了内部中继光路的特点,分析了捕获机构轴系误差,建立了虚拟样机对系统模态进行了分析;然后,提出了L型APT系统中继光路光束指向精度计算方法,分析了中继光路误差来源,推导了各误差源对光束指向误差的影响关系,通过坐标转换的方法建立了通信接收、通信发射、信标发射、信标接收及精跟踪接收五条支路的光束指向误差计算模型并进行了仿真分析,得到了误差的分布规律,为后续实验测试提供了分析依据;在前面优化设计的基础上,搭建了L型APT系统性能测试平台,对系统同轴度及捕获机构指向精度进行了测试分析,实验结果显示系统一阶固有频率为149Hz,通信发射与精跟接收支路同轴度为0.3μrad,捕获机构指向精度为29.9μrad,各项指标与仿真分析结果相符且满足设计要求。最后,针对小卫星平台,提出了采用柔性梁、柔性杆与柔性铰链并联的三点支撑柔性APT捕获机构。研究了机构的构型过程,对主要柔性构件进行了优化设计,分析了结构参数与角行程及系统稳定性之间的关系,建立了虚拟样机对其指向精度及运动学特性进行了仿真分析,结果显示柔性APT捕获机构指向精度达到3μrad,优于机械轴式APT。研究内容为新型APT捕获机构的设计指明了方向,有效的降低了系统体积与质量提高了指向精度。本文研究内容在实际工程应用中对提升APT系统性能提供了一定的借鉴价值。