对流层散射通信具有抗摧毁性、保密性强等优点,是一种重要的无线远程通信方式。但散射信道具有较大的传输损耗,使系统可能工作在低信噪比的环境,且存在时间-频率选择性衰落,其信道衰落是快速时变的非平稳信号,因此需要研究使散射通信稳健传输的通信方案。本文针对对流层散射信道特性选择具有时频联合结构的SC-FDMA（Single Carrier Frequency Division Multiple Access）作为通信体制,并对系统的关键技术进行研究,包括将FRFT（Fractional Fourier Transform）和DCT（Discrete Cosine Transform）这两种时频分析方法应用到SC-FDMA通信体制中,以提升系统性能。主要研究内容分为三个部分:（1）分析散射信道特性,利用实测Zadoff-Chu探测序列,得到衰落深度和中值电平等大尺度参数,以及均方根时延扩展和多普勒扩展等小尺度参数。（2）根据实际散射信道特性确定了SC-FDMA通信系统的帧结构和传输参数;研究了系统的信道编码、频偏估计、信噪比估计、信道估计与均衡、子载波映射和合并技术对系统性能的影响,给出了每种技术中有利于散射通信稳健传输的较优算法;讨论了链路自适应,基于查找表切换控制方案相比于固定的MCS（Modulation and Coding Scheme）,有效提升了系统的吞吐量。（3）研究了基于新的时频分析方法的通信系统结构FRFT和DCT-SCFDMA和DCT-SCFDMA,并和传统的FFT-SCFDMA的性能进行了仿真比较。结果表明,无论系统是否存在载波频率偏差,FRFT-SCFDMA的性能依次优于DCTSCFDMA、FFT-SCFDMA。同时,不同条件下,性能较优的FRFT-SCFDMA对应的阶次不一样,说明针对不同的场景,通过调整FRFT的阶次可使通信系统性能更佳。