近年来,具有成像速度快、角分辨率高、距离分辨率高和发散角小等优点的三维成像激光雷达在军事和民用领域得到了快速发展。采用基于探测器阵列的无扫描激光主动三维成像技术的激光雷达,可以满足系统快速稳定成像,低功耗,重量轻和体积小等要求,是目前三维成像激光雷达的主要发展方向。对于无扫描激光雷达,在远程非合作目标三维成像探测时,回波极其微弱,因此,落在探测器阵列像元上的回波光子数很少,甚至是单光子。工作于盖革模式下的雪崩光电二极管(GM-APD)探测器具有单光子探测灵敏度,GM-APD探测器又具有全固态结构、高增益、响应速度快、体积小、重量轻、功耗低和工作稳定性好等优点,因而很适于这种微弱回波的探测；同时,由于GM-APD探测器的高增益,其输出可以直接驱动后续的数字信号处理电路,这一特点使其非常有利于实现大规模阵列集成和系统的小型化,因此,GM-APD探测器阵列在无扫描三维成像激光雷达中应用日益广泛。然而,由于基于GM-APD探测器阵列的三维成像激光雷达仍处于发展阶段,系统的探测理论还不够完善,为满足各方面的应用需求,新的方法和技术还在不断被提出。因而,本论文对基于GM-APD探测器的直接探测脉冲激光雷达和光子脉冲外差探测系统的基础理论、探测性能进行了研究,得到了一些成果,具体的研究内容和成果概括如下：利用激光雷达方程模型,研究了回波光子与作用距离的关系；利用光电探测半经典理论,研究了回波光子统计规律,分析了光子负二项分布与Poisson分布的规律及转化条件,为研究基于GM-APD探测器的激光雷达的探测性能提供了研究基础。利用直接探测脉冲式GM-APD激光雷达的设计结构,根据系统探测时序,分析了距离门内探测时隙的探测概率分布,由脉宽与时间数字转换器(TDC)分辨时间的关系,研究了系统目标探测概率与虚警率的分布,分析了回波强度、脉宽、噪声与回波位置对目标探测概率与虚警率的影响,结果表明：回波越强,脉宽越窄,噪声越低,回波位置越靠前,目标探测概率越高,虚警率越低,系统探测性能越好。为最大限度消除各种干扰的影响,系统设定了最小可接受探测概率条件,由该条件和回波初始电子数的Poisson统计模型,提出了系统最大探测距离理论模型,研究了对最大探测距离产生影响的五个主要因素。结果显示：发射激光脉冲能量越高,噪声越小,回波位置越靠前,大气传输系数越大,目标反射率越高,获得的最大探测距离越大；同时选择合适的系统最小可接受探测概率对系统探测性能的改善十分重要。测距精度是表征激光雷达性能的重要参数,利用GM-APD探测器的目标探测概率分布,由统计原理与质心法,建立了测距精度的理论模型。利用系统设计参数,分析了回波强度,回波脉宽,噪声和回波位置等参数对测距精度的影响。结果发现：回波强度和脉宽是影响测距精度的主要因素,回波强度越强,脉宽越窄,测距精度越高。虚警越低,系统探测性能越好。在介绍了可提高系统探测性能和抑制虚警的多脉冲累积算法后,由与、或逻辑和与或混合逻辑的概率模型,研究了双探测器结构在提高系统探测性能中的作用。结果显示：对于双探测器结构,与逻辑可很好地抑制虚警；或逻辑可提高目标探测概率；使用与逻辑和或逻辑相结合的双探测器结构,可以获得更高的目标探测概率和更低的虚警率。为获取更多目标信息,设计了由光子计数探测模块与脉冲激光外差探测模块结合而成的光子脉冲外差探测系统。利用激光外差探测原理和光子计数探测的统计理论,建立了系统测距精度模型,研究了回波强度、脉宽、本振光强度、噪声、回波位置与拍频等六个因素对测距精度的影响。最后,利用随机相幅矢量理论,将光子计数输出变换到频域,研究了光子脉冲外差探测系统的信噪比。研究结果表明：当回波脉冲强度较弱时,这六个因素对测距精度影响很大；当回波信号激发的初始电子数多于4个时,影响测距精度的因素主要是激光回波强度和脉宽；回波越强,脉宽越窄,本振光越强,噪声越低,回波位置越大,拍频越小,测距精度越高。在相同条件下,镜面目标的信噪比最高,理想漫反射体的信噪比最低；对于不同混频效率的系统,存在一个使系统达到最佳信噪比的本振强度。