当今社会,科技的飞速发展推动着时代的不断进步,通信也不再局限于人与人之间,而是万物皆连接,万物皆通信,这些现象带来了庞大的信息传输量。众所周知,频谱是一种不可再生资源,然而,现如今的频谱资源管理情况却十分混乱,频谱过度拥挤、过度浪费的现象普遍存在,可以利用的频谱资源不断告警,导致现有的频谱资源无法满足日益增长的通信需求。因此,如何提高频谱利用率是当今通信领域一直重点研究的问题,如何在通信领域探索新的传输维度也是一亟需解决的难题。涡旋电磁波因其具有特殊的螺旋相位波前、空间正交的特性,使得其在通信领域潜力无穷、备受关注。但是,涡旋电磁波技术现主要广泛应用于光通信领域,而其在无线通信方面的研究还不够成熟,仍存在数个待攻破点。基于此,本文对多模态涡旋电磁波在无线通信中的产生与分离技术进行了研究。本文首先对涡旋电磁波应用于通信领域的研究背景以及国内外研究现状进行了概述,紧接着对本文的研究内容、目的、意义以及有关涡旋电磁波的相关技术依次进行了介绍,并指出了涡旋电磁波传输技术中存在的问题。重点研究了基于收发两端均为均匀圆阵列的多模态涡旋电磁波信号的模态分离以及基于单天线产生多模态涡旋电磁波的方法,本文主要做了如下工作:(1)在基于收发两端为均匀圆阵列的涡旋电磁波无线通信系统中,本文分别采用了矩阵分析和贝塞尔函数两种方法对收发端为严格对齐的通信系统性能进行分析,研究了这两种方法的使用范围,并在接收端成功分离各个模态和解调信息,随后对其信道传输特性进行了仿真,指出涡旋电磁波通信的信道传输特点。接下来,针对涡旋电磁波传输过程中常见的收发端非对齐这一问题展开研究,建立了收发端非共轴的均匀圆阵列涡旋电磁波通信系统模型,在该模型的基础上详细推导了信道模型并进行了仿真分析。提出了一种新型涡旋电磁波模态分解方案,利用该方案解决了因收发端非对齐导致模态之间正交性被破坏从而在接收端无法对多模态信号进行解调的问题。(2)在针对基于涡旋电磁波的无线通信与传统多输入多输出(MIMO)无线通信无法从本质上区分的问题,本文提出了一种利用单天线产生多模态涡旋电磁波的方法,并对该通信系统进行建模分析。通过在接收端对总的噪声进行模态分解,从而得到不同模态上的噪声关系,进而推导出该通信系统的容量,证明了基于L个模态的涡旋电磁波通信系统的确能提供L个平行子信道。接下来,在该系统模型的基础上,将携有轨道角动量(OAM)的涡旋电磁波技术与MIMO技术结合,构成OAM-MIMO无线通信系统,分析了其系统容量,并将其与同等装备的传统MIMO无线系统进行的比较,证明了基于OAM-MIMO无线通信系统的容量高于传统MIMO无线通信系统。