随着虚拟现实(Virtual Reality,VR),4k视频无损实时传输等超高速数据传输业务的兴起,第五代移动系统(5th Generation Mobile Networks,5G)代表性技术60GHz毫米波通信所能提供的无线传输速率已经不能充分满足人们的需求。太赫兹(Terahertz,THz)通信瞬时带宽大,可以实现Gbps乃至Tbps量级无线传输速率。这样的特点使得太赫兹通信作为后5G时代乃至6G时代的关键备选技术受到各国学者的高度重视。然而随着通信频带的增高,系统受射频非理想性的影响也更加严重,尤其是相位噪声(Phase Noise,PN)和IQ不平衡(In-phase Quadrature Imbalance,IQI),有随着通信频段的提高而愈加严重的趋势。将这些射频非理想性引起的非线性失真放在数字基带进行补偿是太赫兹通信中不可或缺的一环。本文的研究主题是太赫兹通信中频率无关的IQ不平衡和相位噪声的建模分析与基带补偿方法。由于太赫兹波受空气衰减较大,远距离通信需要采用功放链对信号进行放大。考虑到高峰均功率比(Peak to Average Power Ratio,PAPR)的信号更容易被非线性放大产生信号畸变,而且高频通信必定导致更高的载波频偏,因而本文选取本身PAPR较低且对载波频偏不敏感的单载波频域均衡(Single-Carrier with Frequency Domain Equalization,SC-FDE)系统开展研究。本文主要研究工作如下:本文第一章介绍了太赫兹通信的相关背景,强调了进行射频非理想性基带补偿的必要性,并针对IQ不平衡以及相位噪声进行了概述。第二章针对太赫兹频率无关的IQ不平衡,首先推导了其参数模型,分析得出其通过引入镜像干扰恶化系统性能。其次,利用IQI由硬件决定,对于一套系统近似恒定的特点提出了一种基于监督学习的信号检测算法。利用受IQI影响的数据均衡后星座图具有的规律性分布,以I/Q路数据为特征训练基于支持向量机(Support Vector Machine,SVM)的多分类器,实现了对受IQI影响的数据的正确判决,在非视距(Non Line Of Sight,NLOS)信道下相较于传统基于信道能量变化量的方法有明显的性能提升。第三章开展太赫兹相位噪声时域仿真模型的研究。由于射频本振链路结构的不同,太赫兹相位噪声不能沿用毫米波相噪模型。首先,本文从射频本振链路结构出发基于传递函数理论论证毫米波标准相噪模型。其次,分析不同变频结构证明太赫兹通信系统相位噪声由太赫兹射频本振决定。进而,结合太赫兹通信系统与60GHz毫米波通信系统射频本振链路结构的相似性,从传递函数出发推导了太赫兹相噪功率谱表示。最后,本文结合幂律噪声仿真理论,提出了太赫兹相位噪声的时域仿真模型,并证明了相位噪声对SC-FDE系统的影响体现为公共相位误差(Common Phase Error,CPE)和码间串扰(Inter-Symbol Interference,ISI)。第四章重点研究相位噪声补偿算法。首先,总结相噪补偿算法,给出具有代表性的算法架构流程图。其次,针对非迭代补偿算法,本文在802.11ad标准给出的相噪统计特性基础上提出了基于最小均方误差(Minimum Mean Square Error,MMSE)准则的插值方法,并分析了其迁移到太赫兹相噪补偿的可行性。相较于传统非迭代补偿方法性能提升明显。最后,针对迭代补偿算法,本文仅利用相噪点之间的相关性,提出了一种可以直接用于太赫兹相噪补偿的基于判决反馈的迭代频域均衡算法。相较于传统基于判决反馈的迭代最小均方(Least Mean Square,LMS)算法在误码性能,算法时间复杂度,硬件实现难度等方面均得到了性能提升。