在煤炭开采时，由于煤层中可能包含地下水或瓦斯腔体，若发生灾害，将会严重威胁矿工和设备的安全，在工作面现场使用探地雷达进行超前探测，则能预先判断开采中可能出现的灾害隐患，具有重要的研究意义。根据煤层介质特点，通过分析电磁波在煤层介质中的吸收衰减和反射衰减,得到电磁波传播过程中的损耗特点，通过分析调频连续波（FMCW）探地雷达的工作原理，推导出用于单个目标探测时的定位目标公式；根据探地雷达信号的传递方程，通过分析FMCW探地雷达频率增量与距离分辨率及最大不模糊距离的关系式，得出距离分辨率与最大探测距离相矛盾，通过对探地雷达发射信号功率与最大探测深度的关系仿真，得出降低频率是有效增大探测距离或降低发射功率的技术手段。根据探地雷达应用于煤层超前探测时的两大主要任务——目标的定位与识别，进行了基于多重信号分类（MUSIC）算法的目标介质定位研究和基于回波场强的目标介质识别研究。通过分析FMCW探地雷达信号特征，选择MUSIC算法处理回波信号，仿真结果表明，对于非相关信号，信号长度越长、接收信号的信噪比越大、接收天线的阵元数越多，算法的分辨率就越高，当归一化频率间隔在(3-4)π/100之间时，该算法适用于多信号的识别。而对于相关信号，MUSIC算法性能变得很坏，为此提出了一种基于相关信号处理的改进型MUSIC算法，仿真结果表明，改进后的MUSIC算法可以实现对相关信号的准确估计，达到目标定位的目的。通过分析电磁波在煤层中的损耗特征，结合煤层中危险源的物质种类，推导出煤层中不同介质的损耗与介电常数的关系，提出了基于回波场强度的目标介质识别算法，分析及仿真结果表明该算法对煤层中的水、空气、岩石有较好的分辨能力，可以有效预测煤层中未知的水体或瓦斯空腔，达到目标识别的目的。本文的研究为矿井物探技术的发展奠定了理论基础，该研究在煤层超前探测中具有的一定的应用价值。