数字调制解调技术是数字通信系统的关键技术之一，研究数字调制解调技术对提高数字通信系统的能力有非常重要的意义。一个新的调制解调方法会有更广阔的应用前景。线性瞬时混合盲源分离(BSS)数学模型中矩阵相乘的形式可用于数字信息调制，盲源分离算法对矩阵的识别可作为信号解调的方法。根据这一思路，本文提出逆有界成分分析(RBCA)调制解调新方法。然后基于这一方法进行通信、通信干扰以及通信干扰三方面的应用研究。　　本文首先对有界成分分析周长匹配(BCAPM)算法进行介绍和分析。文中简述BSS数学模型，介绍BCAPM算法的理论过程，分析算法的模糊性。仿真对比BCAPM算法和先验复数非高斯性最大化(TCMN)算法，当多个源信号满足高斯分布，或具有相关性或样本点少时，BCAPM算法相对TCMN算法具有更好的分离性能。这些理论知识为RBCA调制解调新方法的提出提供理论依据。　　然后，本文提出RBCA调制解调新方法。根据盲源分离数学模型建立RBCA调制的数学模型，提出RBCA映射理论。RBCA解调方法采用BCAPM算法识别信号消息矩阵，并提出RBCA解映射理论从中提取数字信息。理论中相关证明确定了新方法的正确性和可行性。其次对RBCA调制解调新方法进行参数分析，给出合理的参数选值。再次对RBCA调制后信号的功率谱密度分析，得出RBCA调制后的信号功率谱密度与被调制信号的功率谱密度相似的结论。该结论为本文新方法的应用合理性提供理论保证。　　最后，本文对RBCA调制解调新方法进行三方面应用研究。应用一，给出基于RBCA调制解调的通信方案。改变被调制信号的分布，相同条件下，通信信号的抗噪性能不同，其中RBCA-4QAM和RBCA-16QAM信号相对于4QAM信号有4dB的信噪比优势，验证了该方法的通信可行性及优势。通信信号的多样性能够保证安全通信问题，而解调方法的唯一性不增加信号解调的难度。应用二，给出基于RBCA调制的通信干扰方案。在对4QAM，16QAM信号进行干扰的仿真实验中，结果表明基于RBCA调制的干扰信号比扩频干扰信号和多音干扰信号有更大的干扰有效干信比范围，确定了新方法在通信干扰领域的应用价值。应用三，提出基于RBCA调制解调的通信干扰一体化系统方案，与基于直接序列扩频的一体化系统进行对比，能在更广的信干比范围下同时有效的进行通信和干扰。该方案具有创新和实用两方面的价值。