本文针对天文学和激光定向能系统自适应光学信标技术研究和工程应用的需求，研究了在同一望远镜孔径中进行信标激光发射和接收的高效耦合分光技术，包括偏振耦合分光技术、高速转镜耦合分光技术和受抑全内反射耦合分光技术。对提高信标系统的耦合分光效率和探测能力，降低信标激光器的脉冲能量要求，提高工程系统研制的效费比，具有积极的意义。 重点研究了用于激光导星的偏振耦合分光技术。望远镜的旋转会改变s光和p光间的相位差，影响信标激光的偏振态，导致偏振分光系统接收效率的退化。针对这个问题，建立了地平式折轴望远镜的共孔径偏振耦合分光模型，用Stokes矢量和Mueller矩阵分析了在望远镜旋转过程中激光偏振态的变化，数值模拟计算了望远镜处于不同方位角和天顶角时的偏振耦合分光效率，解释了实验中观察到的望远镜旋转导致偏振耦合分光效率退化的现象。提出了三种动态相位补偿方案，实时补偿望远镜运动对激光偏振态的影响。1)旋转两块λ／4波片来实现相位补偿；2)一个法拉第旋光器固定不动，旋转一块λ／4波片进行相位补偿；3)一个法拉第旋光器固定不动，调节一个伯列克补偿器的相位延迟来实施相位补偿。对这三种方案的补偿有效性和连续性分别进行了理论研究，结果表明：补偿后，三种方案均能使偏振耦合分光系统对返回信标光的接收效率达到90％以上；在望远镜转动时，前两种方案可能出现相位补偿不连续的现象，而方案3的补偿过程是连续稳定的。 建立了偏振耦合分光的实验装置，分别用方案2和方案3进行了动态相位补偿实验研究。在使用法拉第旋光器和λ／4波片进行相位补偿的实验中，根据望远镜各部分的相位延迟差以及方位角和天顶角数据计算波片旋转的角度，补偿后偏振偶合分光系统对返回信标光的平均接收效率大于90％；在用法拉第旋光器和伯列克补偿器进行的相位补偿实验中，用光功率计测量偏振分光系统的接收效率，并以此为反馈量控制伯列克补偿器的相位延迟，实现闭环控制。闭环后，偏振耦合分光系统工作稳定，且对返回信标光的平均接收效率高于90％；为了准确计算方案2中波片旋转的角度，提出了一套测量相位延迟差的实验方法，较精确的获得了被测系统的相位延迟差。 本文还研究了用于激光导星的高速转镜耦合分光技术。结合瑞利后向散射激光信标系统的时间选通需要，设计了高速转镜的工作时序和相应的镜面结构。研究了由转镜振动造成的信标光束的偏移和离焦问题，推导出光束偏移量和离焦量与转镜系统结构参数的关系，通过对这些结构参数的优化，可有效减小振动对接收信标光的影响。 研究了受抑全内反射耦合分光技术。分析了受抑全内反射器件的工作原理和工作时序，展望了该类器件在激光信标共孔径耦合分光系统中的应用前景。