宽带高功率干扰是无线通信系统面临的一大问题,随着小型计算设备的应用日益增多,对通信提出了低能耗、高频谱利用效率的新要求,因此如何在低能耗的情况下实现信号抗干扰,并提高频谱利用效率是目前急需解决的问题。本文介绍了基于干扰载波的无线传输通信(Interference-Carrier-Based Communication,ICBC)主动式抗干扰系统,应用反向散射器,以背景干扰信号为载波发送通信信号。但传统反向散射系统信号检测算法只能检测二进制开关键控调制的通信信号,数据传输速率较低且信号误码率较高,因此本文致力于提出能应用于更高阶调制信号、误码率更低的信号检测算法。首先介绍了ICBC系统的研究背景和意义,计算ICBC系统信道容量并分析系统的可行性,介绍了用于传输通信信号的反向散射通信技术,包括反向散射器结构和接收端传统信号检测算法,对检测算法进行仿真并分析结果,总结ICBC系统研究重点为更低误码率和更高数据传输速率的信号检测算法。接着研究了基于期望极大(Expectation Maximization,EM)的信号检测算法,根据通信信号和背景干扰信号速率之间的差距,用一个通信信号符号帧内信号平均能量来对信号分类检测,通过EM算法估计混合分布模型的参数,计算最优门限,接收信号平均能量按照能量门限分类检测得到通信信号。检测通信信号为调相调制时,增加信道筛选过程,降低接收信号的误码率,同时信号误帧率增大,影响正常通信。研究了发送机和接收机都采用多输入多输出(Multi-Input Multi-Output,MIMO)时,使用不同信号检测方法,通过对应衡量指标选择信道条件最好的接收天线接收信号进行检测,来降低信号误码率。天线越多,算法复杂度增大,误码率降低。然后提出了基于独立成分分析(Independent Component Analysis,ICA)的信号检测算法,将接收信号分离为直接链路信号和反向散射链路信号,对分离出的反向散射链路,通过前导信号建立信号相位与符号之间一一对应关系,以此检测通信信号。对于两路信号之间存在的相对时延,提出一种同步算法。同时,设计当系统不存在干扰信号时的通信方案,增加背景信号检测模块。基于ICA的信号检测算法复杂度增加,误码率和误帧率降低。