随着光波探测成像和无线光通信技术的快速进步,光波(电磁波)在随机介质和光学系统中的传播和演化规律越来越受到技术界的高度重视。本文以光波成像和通信等应用需求为背景,研究平面波、球面波和部分相干激光束以及携带有轨道角动量的电磁波束在满足非柯尔莫哥诺夫统计特性和各向异性的湍流介质中的传输演化规律以及作为通信载波在湍流信道中传送信息的能力。基于修正Rytov理论,在小尺度闪烁被大尺度闪烁调制的框架下,研究了部分相干高斯激光束通过强起伏非柯尔莫哥诺夫湍流传输的强度起伏以及闪烁平滑效应,得到了孔径接收条件下该光束强度起伏的半解析表达式；在Gamma-Gamma信道衰落模型下,研究了基于高斯-谢尔光束的自由空间光学系统的各态历经信道容量；分析了湍流谱指数、光源空间相干性以及接收孔径尺寸对信号闪烁和通信容量的影响。采用弱起伏理论和广义的大气湍流谱模型,获得了高斯-谢尔光束通过非柯尔莫哥诺夫湍流传输强度起伏的近似表达式,以及球面波和平面波闪烁方差的解析表达式；分析了湍流内外尺度和谱指数对光束闪烁特性的影响规律；在对数-正态信道衰落模型下,研究了该自由空间光学系统的通信性能。采用Rytov近似和广义的大气湍流谱,在弱起伏条件下,研究了时间积分的平面波闪烁方差。另外,利用广义Von-Karmon谱和圆环孔径滤波函数,研究了弱起伏条件下球面波在非柯尔莫哥诺夫湍流中传输闪烁的圆环孔径接收平均因子；分析了湍流谱指数、内尺度对圆环孔径平均效应的影响。采用广义惠更斯-菲涅尔原理和部分相干光束通过ABCD光学系统传输的柯林斯公式,推导得到了多高斯-谢尔模型光束通过失调光学系统演化的互谱密度的解析表达式,以及在非柯尔莫哥诺夫湍流中光束扩展的精确表达式；分析了湍流内外尺度及谱指数对该光束扩展的影响。焦面处场的谱相干度变为高斯线型；湍流内尺度和该光源的相关尺度及谱指数对湍流大气中该光束的展宽影响显著。采用光波在湍流介质中存在光学系统时的波束传输理论,推导得到了贝塞尔-高斯-谢尔模型光束和拉盖尔-高斯-谢尔模型光束传输演化的谱密度单重积分表达式和光束扩展的解析式；分析了光源空间相干参数和湍流参数对该类光束演化的影响。采用电磁波束的轨道角动量理论,研究了几类部分空间相干光束的OAM谱特性,结果表明：不同部分空间相干性的光束有着显著不同的OAM谱特性。为了进一步提高通信系统的容量,把OAM复用技术与多输入多输出技术结合,研究了圆对称7X7毫米波准光阵列系统的通信容量；分析表明OAM技术与MIMO结合可以极大提高系统容量,然而收发端阵列指向的偏移误差对MIMO-OAM系统容量有显著影响。推导得到了球面波在各向异性非柯尔莫哥诺夫湍流中传输的相位结构函数及波结构函数,基于该波结构函数和微扰理论,研究了湍流的各向异性特性对单光子轨道角动量谱特性的影响,分析了不同湍流条件下接收到原始发送OAM态的概率；进而计算了利用11个不同态传输时的信道容量。在强起伏条件下,推导得到了LG光束通过各向异性湍流传输的互谱密度的解析式,基于互谱密度进而分析了强起伏各向异性湍流中LG光束OAM谱的弥散特性；结果表明强起伏湍流中,光束的OAM自由度难以用于自由空间光通信。