零差相干激光通信具有高光学增益、通信容量大和抗截获能力强等优点,被认为是解决远距离、高速率通信问题的最有竞争力的技术手段之一。实现零差相干激光通信需要满足一系列的苛刻条件,而具有高效率的空间光混频器是其中条件之一。本论文针对空间光混频器的关键性能—相位精度、插入损耗、支路能量均匀性和分光比—进行了分析和仿真,并提出和验证了相应的补偿和优化方法,提高了空间光混频器的效率和系统的灵敏度。首先,分析了零差相干探测灵敏度与空间光混频器分光比的关系,分析结果表明选用最优分光比时的灵敏度比均匀分光时高近2.55dB,验证实验结果与分析结果相符。其次,构建了90°空间光混频器的数学模型,分别对90°空间光混频器的相位精度、插入损耗和支路能量不均匀性进行了研究。第三,提出了补偿相位差与调整分光比的方法,并对其进行了仿真和实验验证,结果表明可以通过旋转1/4波片和1/2波片实现相位差的精确补偿和预期分光比的调整。第四,设计了一组非球面整形镜,将均匀分布的信号光整形为高斯分布,整形后光束振幅分布与理想振幅分布接近,通过分析得出最高混频效率比未整形时有14.2%的提升。最后对90°空间光混频器的插入损耗、支路能量均匀性和相位精度进行实验测试,同时也进行了分光比调整与90°相位差补偿验证实验和混频器分光比对系统灵敏度的影响验证实验,实验研究结果与理论分析结果相符。