变换域通信系统(Transform Domain Communication System,TDCS)是一种新型的无线通信体制。由于在变换域生成不含有干扰频率成份的基函数波形,TDCS的传输波形(即基函数)与信道中干扰信号具有变换域正交特征,使其对于干扰具有较强的抑制能力；同时,TDCS可利用间隔的频率资源进行信息传输。因此,TDCS在军事抗干扰通信和民用认知无线电通信领域将得到广泛的应用。在无线TDCS通信场合,‘信道的衰落特征(多径传输、不理想的幅度衰落和相位衰落)、收发端电磁频谱的不一致性将严重影响系统的性能；同时,由于具有类似正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)信号的多载波特征,TDCS信号峰均比(Peak-to-Average Power Ratio, PAPR)过大将提高对系统功放器的要求。针对这两个问题,本文开展以下的研究工作。首先,介绍TDCS的基本理论及其相关技术的基本原理,给出了系统的原理框图和数学模型。为了能够更准确的分析研究,建立了系统仿真平台。在此基础上,对TDCS的信道适应能力进行了分析,从理论分析和仿真验证两个层面分析了高斯白噪声、窄带干扰、多径干扰、信道衰落和收发端电磁频谱不一致性对TDCS性能的影响。为了降低收发端电磁频谱不一致性对系统性能的影响,提出两种解决方案,即基于共带通信原理的改进型TDCS通信系统、基于接收端频谱特征的TDCS通信系统；理论分析并仿真验证了这两种改进型TDCS系统的有效性和可行性。针对TDCS信号峰均比过大的问题,讨论了TDCS信号峰均比的特征；引入OFDM信号的峰均比抑制思路和方法,结合TDCS信号的技术特点,提出了基于限幅法的TDCS信号峰均比抑制方法,并分析验证了该方法的技术性能。