随着通信应用市场不断扩展以及用户数量与日俱增,实现更高效率的通信,同时缓解频谱资源紧张的问题,成为了人们研究无线通信技术所关注的一个长期的热点。毫米波通信凭借其可实现吉比特级的数据传输速率、频带资源丰富、高抗干扰性等优势而备受学术界与工业界的青睐。由于工艺与成本的限制,毫米波通信的系统性能不可避免地受到射频模拟前端非理想性的损坏,因此,将其引入系统建模以获得更为准确的性能评估,并通过数字域处理进行补偿是十分必要的。本文的主要研究内容是射频端两种主要的非线性失真——IQ不平衡(IQI,In-phase Quadrature Imbalance)和相位噪声(PN,Phase Noise)。在统一采用IEEE802.11ad标准下的系统模型、信道模型与传输帧结构,并选择具有低峰均功率比(PAPR,Peak to Average Power Ratio)的单载波频域均衡(SC-FDE,Single-Carrier with Frequency Domain Equalization)传输方式的条件下,分别对两种射频非线性失真展开了影响分析与补偿研究。全文的主要内容大致划分为三个部分如下:第一部分主要介绍了毫米波通信中极具代表性的60GHz毫米波通信的研究背景及其在IEEE 802.11ad标准下的系统设计与主要参数,并对本文重点研究的两种主要的射频端非线性失真分别进行了简要的概述。第二部分对相位噪声展开了研究:首先给出了IEEE 802.11ad标准下的相噪模型、相噪影响下的系统模型及其影响分析;其次,对常用的公共相位误差(CPE,Common Phase Error)补偿方案进行了研究与分析;之后,鉴于CPE补偿方案有限的补偿效果,在CPE补偿基础之上,本文研究了一种相噪补偿方案,通过时域相噪自相关矩阵的特征值分解,基于正交基展开理论对相位噪声进行重构,进一步地,提出通过稀疏贝叶斯学习(SBL,Sparse Bayesian Learning)估计相噪重构系数,从而实现对相噪更为准确的估计与补偿,通过理论推导分析与仿真,可验证该补偿方案对系统误码性能的改善效果明显。第三部分对IQ不平衡展开了研究:IQI的研究模型通常分为两种情况,一种是由本振信号不准确所引起的频率独立IQI,另一种是考虑I/Q两路电路器件的频响特性差异的频率相关IQI。针于上述两种情况,本文分别提出了一种基于训练序列的补偿方案。对于前者,本文给出了一种基于信道变化能量(CVE,Channel Variation Energy)最小化的最小二乘(LS,Least-Square)估计补偿方案。对于情况更为复杂的后者,本文提出了一种基于最大似然(ML,Maximum Likelihood)迭代估计的补偿方案。通过理论推导与仿真,可验证上述的两个补偿方案均实现了优良的补偿性能,并且相较于现有的其他IQI补偿方案,本文所提出的两个补偿方案均可同时得到分离开的IQ不平衡参数与信道估计。此外,两个补偿方案对训练序列无特定要求,不会带来额外的数据开销或者引入帧结构改变的问题,因此适用范围广。