毫米波无线通信具有速率高的优势,但是在技术实现上却面临电路实现复杂、成本高、路径损耗大、功率消耗高等问题。因而,研究低功耗和低成本的高速率无线传输,这成为通信业界关注的焦点和无线传输技术的新挑战。针对这些挑战,本文重点研究三个方面的内容:（1）无线用户接入是实现传输的前提,为此本文研究基于时间反演的频率正交无线接入模型;（2）毫米波通信系统通常采用混合射频域模拟预编码和基带数字预编码结构,这造成现有的全数字和全模拟波束赋形算法无法直接使用,需要研究新型算法来设计预编码器;（3）为了解决毫米波通信功耗高和干扰大的问题,在确保系统支持多速率传输的同时,需要减少系统能耗与成本,优化全局系统干扰。论文的主要创新工作具体包括:（1）建立了时间反演无线宽带接入模型。为了满足高速率的无线传输需求,采用极高频通信和超密集组网模式,但是,这也会造成信号干扰噪声比（Signal-to-Interference-plus-Noise Ratio,SINR）降低。针对无线超密集组网模式,研究建立了频率正交时间反演无线接入模型,通过为不同用户分配正交子载波来区分用户信道,再利用时间反演的方式让各用户信号能量在目的用户聚焦,降低信道相关度和干扰,从而提升SINR。研究对系统传输速率和覆盖范围表达式进行了推导并论证,仿真验证表明,在不增加功率和天线情况下,所提方法提升了系统可达传输速率等性能。（2）设计了毫米波无线系统的混合预编码器。毫米波无线通信因其具有大量的可用频带被业界认为是一种实现第5代(5th Generation,5G)及未来通信传输的有效手段。但是,相对于6GHz以下频带,毫米波通信需要更高的路径损耗、功率消耗和设备成本。为了减低系统成本和功耗,又支持多数据流传输,本文提出了一种利用迭代训练来设计混合预编码器的方案。首先,根据毫米波信道稀疏特性,利用有限的自由度,采用波束分裂的方式进行信道探测与估计;其次,提取信道中的主要来波方向信息,设计模拟预编码器;然后,基站和用户分别进行多次时间反演迭代训练,促使预编码权收敛,设计数字预编码器。仿真与实验结果表明,所提预编码设计方法获取主要来波径方向与功率信息准确、时间开销较少且实现简单。特别是在用户间信道相似度较高的情况下,与经典的混合预编码设计方案相比,所提方法具有更高的系统频谱效率。（3）研究了无线毫米波系统的干扰协调与优化方案。为了对无线毫米波多用户系统进行干扰优化,针对混合波束赋形结构,提出了一种干扰联合优化模型。以最大化系统总可达传输速率为研究目标,在确保单用户可达速率满足设定门限的基础上,以功率分配和波束分配联合优化的方式来最大化目标函数,从而逼近最优的传输。对于毫米波混合预编码结构而言,等效信道具有不确定性,研究通过波束搜索与迭代的方式分两步求解目标函数。首先,进行波束分配建立等效信道,将优化问题转化成一个凸优化的问题;其次,进行功率分配,计算数字基带预编码权与目标函数值,从而实现干扰管理和优化。实验验证了该方案的有效性和可行性,优化后的频谱效率、能量效率和误码率（Bit Erro Ratio,BER）均优于传统无线毫米波混合波束赋形传输方案。