通用滤波多载波调制技术(Universal Filtered Multi-Carrier,UFMC)以支持异步、分段频谱、低时延等传输特性已经引起了学术界和工业界的广泛关注,是5G候选的新型多载波调制技术。本文主要研究了 UFMC系统中的主动干扰消除技术以更好地提升系统性能,相关研究内容如下:首先,提出了一种可以改进传统UFMC系统性能的主动干扰消除编码算法,利用最小二乘准则可以得到最佳的编码方案。传统的UFMC系统将可用频带划分为若干个子频带,通过对每个子频带进行滤波操作,UFMC有着较低的旁瓣电平而且对载频偏移不敏感。然而,滤波器的设计复杂度通常较高,为实际系统实现带来困难。因此,本文首先提出了一种UFMC系统中的主动干扰消除编码算法,其基本思想是:在发射端,每个用户利用相邻子频带之间的保护频带放置一些干扰消除子载波,这些子载波受特殊的加权因子所调制以更好地抑制UFM C系统中子频带间的干扰,从而降低对滤波器的设计要求。仿真验证了所提方案相比传统的UFMC系统有着明显的干扰抑制效果。其次,设计了一种考虑功率消耗的UFMC系统主动干扰消除编码算法,结合多目标规划和拉格朗日对偶算法可以得到最佳的闭式解。考虑到插入的干扰消除子载波并不携带任何有效数据信息,针对实际中存在的低功耗通信系统,我们考虑对插入的干扰消除子载波消耗的功率进行约束。具体来说,每个用户在其旁边相邻保护频带对称地插入一些干扰消除子载波,这些子载波承载的调制信息和用户的有效数据信息受一定的功率约束。仿真结果表明,相比传统的UFMC系统,所提方案在加性高斯白噪声信道和瑞利衰落信道下有着突出的性能优势,而且可以在一定程度上降低传统UFMC系统中滤波器的设计复杂度,同时又可以保证低功耗系统的功率效率。最后,设计了一种全新的UFMC系统自适应主动干扰消除编码算法,可以根据子频带的占用情况对发射信号进行灵活地编码。考虑到部分实际通信场景,尤其是机器通信,每个用户处于间歇活跃状态,并不是持续地传送数据,从功率效率角度出发,当周围的子频带没有用户占用的时候,该用户不必浪费功率来采用干扰对消策略。因此,针对这种场景,我们设计了一种自适应的干扰消除编码协议:用户先以传统UFMC方式传送若干帧数据,基站统计处于活跃状态的所有子载波的平均信干噪比,然后向用户广播信干噪比最低的子载波标号,用户根据基站反馈的信息,决定是否采用干扰消除编码方案以降低自身对反馈子载波的干扰。由于发送端功率受限,经历若干时间,系统性能不再有明显提升,则用户侧终止调整。仿真验证了所设计的自适应干扰消除编码算法无论是存在载频偏移还是不完美信道状态信息的情况下,均有较好的误比特性能。