随着无线通信技术的高速发展,有限的频谱资源和人类快速增长的通信需求的矛盾日益突出,研究新技术来更高效地利用频谱资源已迫在眉睫。近些年的研究表明,携带轨道角动量(Orbital Angular Momentum:OAM)的电磁涡旋波束具有不同模式间互相正交的特性。利用其正交性可以在同一频带下并行传输多路互相独立的数据流,有极大潜力提升通信容量和频谱利用率,可有效缓解频谱资源匮乏的局面。而在雷达探测领域,OAM波束具有的螺旋状相位波前结构可以提供额外的方位角分辨率,可以用于雷达成像和对旋转目标的检测。本文首先设计了两种模式的C波段(5.8-6GHz)圆形阵列OAM天线,可以分别产生模式l=+1和模式l=+2的OAM波束。在此基础上,分别设计了基于超表面的贝塞尔透镜和法布里-珀罗谐振腔来优化OAM天线的辐射性能。然后根据仿真结果制板加工了上述OAM天线和对应的法布里-珀罗谐振腔。在微波暗室中测得的平面电场相位分布和远场方向图表明,设计制作的OAM天线可在5.8-6GHz频段产生模式l=+1和模式l=+2的OAM波束,且法布里-珀罗谐振腔可以在不改变OAM波束特性的情况下提升OAM天线的方向性。最后,本文利用所设计的圆形阵列OAM天线在目标探测和无线通信两方面进行了应用研究。利用OAM波束所具有的旋转多普勒效应,测量了运动物体的旋转速度,验证了利用OAM波束进行目标探测的可行性。利用通用软件无线电平台(USRP)进行了OAM模式通信实验,在相同和不同模式OAM天线间传输了经过FBMC调制的视频信号。通信实验结果证明了不同模式OAM波束之间的正交性,为将OAM技术应用在通信系统中打下了基础。