论文研究了无线通信系统共存时的相互干扰问题，分别从发射端的干扰预测和规避以及接收端的干扰检测和抑制两个方向展开讨论，针对其中的若干关键问题提出相应的解决方案或改进策略。论文的主要贡献包括：　　 (1)研究发射端技术中以干扰预测为最终目的的频谱协作检测中的安全问题。给出了频谱状态的协作检测中异常用户的多维攻击模型，同时考虑了攻击意图、攻击强度以及时间图样等特征参数；提出用相对能量代替传统的绝对能量作为检测统计量，从而避免了复杂的全局门限设置、减小了信息交互的开销；提出了一种用户信誉的评价方案，在此基础上实现了检测信息的有效、安全融合，并给出针对不同攻击模型的关键参数的自适应更新策略，使之在不同场景下均能有力抑制异常信息的影响。　　 (2)研究了OFDM系统接收端的窄带干扰频域抑制算法，不局限于任何窄带干扰模型。分析了传统频域陷波方法的不足之处，即门限设置困难以及调制符号抑制的欠公平问题；基于最大后验概率准则推导了针对解调比特软信息的最佳修正因子；相对传统算法中非一即零的硬擦除，给出了OFDM系统中针对调制符号的频域“软擦除”方法，即同时考虑频率选择性衰落和频率选择性干扰的影响，根据各子载波上的不同干扰强度进行不同程度的抑制，有效地改善了频域干扰抑制算法的性能。　　 (3)研究了OFDM系统接收端针对单频干扰这一特殊窄带干扰模型的频域估计算法。分析了接收端FFT之后单频干扰在各个子载波上的幅度特征，在此基础上给出了一种单频信号参数的频域估计算法，用于干扰的重构与去除；基于对估计误差的深入分析，给出了算法中关键参数的合理设置方案。相对时域预测方法，此算法避免了滤波器系数更新所需的收敛时间和计算复杂度；相比传统的频域陷波方法，此算法对有用信号的损伤较小且无门限设置问题。同时，与已有的时域和频域方案相比，论文提出的方法具有更好的干扰抑制性能。　　 (4)研究了CDMA系统接收端的窄带干扰时域预测与去除算法，不局限于任何窄带干扰模型。分析了传统自适应非线性滤波中有用信号的判决反馈误差对预测滤波性能的影响；提出了通过码辅助减小有用信号的判决误差、提高干扰的预测精度进而改善系统性能的方法；给出了部分码辅助的思想并以最小化滤波器输出噪声功率为目标推导了辅助码片序列的最优长度；分析了部分码辅助算法的时间开销以及计算复杂度，并与传统的线性/非线性滤波器以及全码辅助的滤波方法进行了比较。论文提出的方法可以在时间复杂度近似不变且运算量的增加可忽略的条件下显著改善时域干扰预测算法的性能。