现代无线通信系统正朝着小型化、多功能化、高集成度的趋势发展。天线作为射频前端中的一个重要部分,其小型化设计对于系统而言至关重要。对于较低频段（例如VHF、UHF）系统,由于电磁波波长较长、天线物理尺寸过大,因此VHF/UHF天线小型化设计将有利于提高整个系统的集成度;对于高频段（例如5G毫米波频段）系统,MIMO技术的快速发展使得天线数量大规模增加,因此实现毫米波天线小型化将大幅度减小大规模MIMO阵列天线的体积,实现系统小型化设计。基于不同的应用背景,本文对小型化天线展开了相关研究,具体的研究内容包含以下三个部分:1.面向UHF卫星通信的小型化双频圆极化天线研究。针对UHF频段的卫星通信系统,为解决该频段天线物理尺寸较大的问题,提出三种基于不同研究方案的小型化序列馈电圆极化天线。第一种是基于折叠技术的小型化PIFA天线,通过将辐射耦合双倒L天线单元进行弯折设计来延长电流流动的有效路径,从而实现了紧凑型的双频圆极化天线。该天线在0.15个空间波长的尺寸下具有良好的电性能,可应用于机载卫星通信系统。第二种是基于开口谐振环加载的PIFA天线,该天线借鉴超材料的加载原理,通过在三元序列馈电PIFA阵列天线的中心加载开口谐振环来同时实现双频以及天线小型化,天线尺寸仅为0.15个空间波长,可应用于地面卫星接收系统。第三种是基于结构复用的小型化开口谐振环单频/双频天线,该天线在四元序列馈电圆极化天线的基础上,通过结构复用减少了阵列天线辐射单元的个数,实现了四元序列馈电圆极化天线的小型化（尺寸仅为0.115个空间波长）,适用于微型卫星系统。2.面向C波段保密通信应用的小型化高指向性天线研究。针对C波段的小型化立方星系统,提出一种基于结构复用的小型化保密通信天线,解决了传统方案中采用阵列设计而导致天线体积庞大的问题。该天线利用单极子天线发射噪声信号、定向圆极化天线发射通信信号,并通过将圆盘加载单极子天线与四元序列馈电圆极化天线集成在一个天线结构上,实现了高口径复用率,可以有效减小天线整体体积。天线最终可实现覆盖范围可调的保密传输,整体尺寸满足小型化立方星系统的需求。3.面向5G毫米波终端的小型化宽带双极化天线研究。为了解决5G毫米波终端体积小、集成度高而导致天线设计空间有限、设计难度较大的问题,提出两种应用于相控阵系统的小型化宽带毫米波天线单元。第一种是基于电容加载和堆栈寄生贴片来实现天线宽带和小型化功能的毫米波天线,该天线在0.32个空间波长的尺寸下可覆盖5G毫米波28GHz频段;第二种是基于贴片–背腔馈电的超表面天线,该天线通过采用多层超表面结构引入多模谐振来展宽工作带宽,又利用电容加载来实现天线小型化,最终可同时覆盖毫米波28GHz以及38GHz频段,具有尺寸小、辐射性能稳定等优点,适用于5G毫米波终端系统。天线小型化技术尽管已经趋于成熟,但是针对不同的应用系统,小型化天线的设计仍然有不同的需求。本文针对三种无线通信系统（UHF卫星通信系统,C波段保密通信系统,5G毫米波终端系统）,提出了多种具有创新性的小型化天线,解决了传统方案中天线物理尺寸较大的问题,在无线通信中具有应用潜力。