近年来,随着卫星通信、移动通信以及物联网等技术的迅猛发展,人们对无线通信系统的容量和传输速率的要求不断提高。无线电频谱的低端频段已无法满足现代通信的需求,因而研究高速率、宽频带的微波/毫米波通信系统已成为学术界与产业界关注的焦点。收发机前端电路是无线通信系统的重要组成部分,包括天线、低噪声放大器、功率放大器、混频器、开关等功能模块。目前基于CMOS工艺设计实现的微波/毫米波前端电路因其具有价格低、集成度高等优点而得到大家的青睐,具有广泛的应用前景。然而,CMOS电路存在衬底损耗大以及性能易受工艺参数、供电电源、环境温度等因素变化的影响(PVT,Process-Voltage-Tempreture)等问题,这对微波/毫米波前端电路的元器件模型和优化设计方法提出新的要求和挑战。本论文围绕这些问题,从元器件建模技术与电路架构两方面展开研究。论文深入研究了片上传输线和晶体管的精确建模方法,针对PVT波动设计了自愈合功率放大器,针对CMOS衬底损耗大而设计了低损单刀双掷开关(SPDT,Single-Pole Double-Throw)、片上天线等前端关键模块。具体的工作与创新体现如下:1)针对微波/毫米波片上传输线模型精度不高等问题,对RLGC传输线模型开展研究。论文分析了传统频率依赖型RLGC传输线模型、分数阶RLGC传输线模型及影响传输线性能的介质损耗、辐射损耗、非准静态效应等高频效应,提出了一种采用记忆依赖型导数概念对传输线进行建模的方法。基于SMIC 65 nm CMOS工艺以及TSMC 90 nm CMOS工艺分别设计共面波导测试结构,通过在DC-67 GHz频段内的三种模型与测试的特征阻抗和S参数结果对比表明,记忆依赖型RLGC传输线模型具有精度高、频带宽等优点。2)针对晶体管大信号模型的精度受限及能否直接反映负载变化等问题,本文基于非线性散射函数提出了一种新的非线性行为模型。通过稳想(WIN Semiconductors)工艺下的pHEMT器件(PP1010MS)对新模型进行验证。结果表明,基于非线性散射函数的二次项扩展模型能在不增加模型复杂度的同时,提高模型的精度。此外,基于新模型设计了一款工作在20GHz的功率放大器,验证了该模型的有效性。3)为了应对CMOS工艺中不可预期的PVT波动对电路的影响,本文基于TSMC 90 nm CMOS工艺设计了一个具有自愈合功能的60 GHz功率放大器芯片。该功率放大器具有负载匹配网络可调节以及输出功率可检测特性,理论分析与仿真结果验证了该架构的功率放大器具有自我愈合的功能。4)为了降低CMOS衬底损耗对开关性能的影响,本文基于TSMC90nm CMOS工艺设计了一款60 GHz单刀双掷开关,在该设计中,创新性地提出了损耗补偿机制的串并联结构,减少了串联支路的寄生电容损耗,从而改善了开关的插入损耗并提高隔离度。5)针对超材料(Metamaterial)改善微波/毫米波天线性能技术进行了应用研究。为了研究复合左右手传输线(CRLH-TL,Composite Right/Left-Handed Transmission Line)的理论与应用,论文先在PCB(F4BM220)板上设计和实现了 S波段的CRLH-TL共面波导基谐振天线,测试与仿真结果对比表明,该天线具有微型化、宽频带以及高增益等特点。然后,基于TSMC 90 nm CMOS工艺设计了一款60 GHz的在片CRLH-TL共面波导基谐振天线,该天线首次将人工磁导体层引入到复合左右手传输线天线的设计中,利用人工磁导体层反射电磁波的特性,使空间波能够同相位叠加来提高片上天线的增益和带宽。