可见光无线通信中,光学天线是可见光无线通信非常重要的组成部分。针对不同的无线通信需求,研制出合适的光学天线系统,最大限度的提高系统通信性能,是目前备受关注且亟待解决的问题之一。本课题在“973”计划“宽光谱信号可见传输理论与方法研究”课题的子课题“宽空间取向复合型光学天线优化集成机理研究”支持下,对可见光无线通信光学天线进行了理论与设计研究。首先根据课题研究内容对可见光无线通信技术发展概况进行调研分析,针对可见光无线通信中室外移动通信、室内移动通信和波分复用通信(WDM,Wavelength Division Multiplexing)等关键技术,调研了相应的国内外研究成果,为后继研究奠定了基础。进而研究了可见光无线通信中非成像型光学天线系统设计原理,针对可见光无线通信中光学天线与普通成像光学系统的差异,提出了适用于光学天线系统的评价指标,并对光学天线接收视场与光学增益的关系进行了研究,为光学天线的优化结果提供了定性的评价标准。最后根据移动通信和波分复用通信应用场景,对相应的光学天线提出新的定位,为后继光学天线结构设计指标的确定及优化设计奠定基础。针对室外移动通信、室内移动通信和波分复用通信接收端存在的问题及需求,分别提出由凸凹反射面组成的全向大视场光学天线、直角反射棱镜结合变焦系统组成的连续变焦光学天线和基于闪耀光栅和双柱面镜结构的色散型波分复用光学天线。通过理论推导得到天线的初始结构,然后通过仿真设计对天线光学结构进行优化,并对仿真结果进行对比甄选,分别得到符合指标要求的三种光学天线结构。最后根据可见光无线通信系统需求,对可见光无线通信场景进行建模仿真和实验分析。结果显示,全向大视场光学天线可以实现±20°~±87°的全向探测接收,光学增益为39.8,视场角较大且增益较高,结构简单,光斑能量分布较为均匀,满足室外移动可见光无线通信的需求;连续变焦光学天线视场角可以在18°~50°之间连续变化,最大增益为16.2,系统总长仅为18mm*6mm,体型微小,系统搭建便捷,在室内移动可见光无线通信中具有较强的便携移动性,稳定性和环境适应性;色散型波分复用光学天线可以实现8通道的多光谱通信,接收效率为81.6%,视场角为40°×16°,极大的扩充了系统通信带宽,提高了接收效率,适用于多光谱波分复用可见光无线通信。本文针对可见光无线通信中室外移动通信、室内移动通信和波分复用通信存在的关键问题,采用光学手段提供了新的解决方案,可望在实际可见光无线通信系统中得到应用,从而推动可见光无线通信技术的发展。