相比于传统的无线通信，无线光通信具有无需频谱认证、超宽带宽、低功耗、数据速率高等已经存在的以及潜在的优点，并且在近几年引起了广泛的关注。而对于室外场景中的无线光通信，散射通信能够很好地应用在收发机无法完全对准，或者直射链路存在遮挡物的场景中。然而，不同的大气环境对于散射通信信道影响有很大差异，接收端的信号也会具有很强的随机性。同时，针对于紫外散射通信，接收到的信号往往非常微弱，这与传统的光通信或者无线通信又有很大不同。因此，针对于散射通信的信道特性以及系统性能分析和优化的研究对于进一步研究有重要意义。　　本论文针对于散射通信信道以及系统优化提出了一系列创新研究，主要贡献如下:　　考虑不同大气环境，比如大气颗粒浓度，大气颗粒半径，海拔高度，等等，利用Monte Carlo方法分析了不同传输波长情况下的链路信道损失以及在采用OOK调制情况下的误码率特性。并且修正了在非均匀介质中散射通信的Monte Carlo仿真方法。　　考虑不同发射端以及接收端参数（发射端仰角，接收端仰角，发射端光束发散角，接收端市场角），仿真了路径衰减的变化情况。考虑对于发射端发射光束进行光束整形，发能够提高散射通信信道增益。同时，采用高效的理论分析以及查表算法，首次分析了二维散射强度分布，发现此二维分布的等强度线能用椭圆曲线很好的拟合，并且进一步给出了椭圆参数以及系统参数的关系。　　考虑到散射通信应用的保密通信场景，分析了下列两种情况下的保密通信速率　　合法传输链路为直射激光链路，潜在的窃听者可能通过散射链路获取保密信息。我们首次通过保密可达速率的概念，分析了敏感区域的范围，以及在不同湍流强度下的保密通信中断概率与窃听者位置和背景噪声之间的关系。　　考虑多个发射机，合法接收机与窃听接收机均通过散射链路接收信息。考虑到散射信道的强衰减特性，接收端采用光子计数接收。分析了多发单收保密泊松信道的可达速率，并且优化了多个发送端的功率分配以及OOK信号占空比，最大化可达保密通信速率。　　针对于散射通信接收端的弱信号，给出了两种接收机模型　　考虑基于PMT的连续信号检测，考虑对应的高斯泊松联合分布，给出了对应系统可达速率的上下界，以及基于分段近似的最大后验概率检测。同时考虑基于其接收信号的特性，构造了个一个非理想光子计数器，并对其中ADC的量化阈值进行了优化。　　考虑基于上升沿的脉冲计数器。利用脉冲保持保持电路，PMT输出的窄脉冲经过此电路后变成一个有固定宽度的方形脉冲。而接下来对其上升沿进行检测，得到一个符号时间内的光子数。针对于这两种光子计数器，均可以将其建模成二项分布，并且通过最大化0，1符号分别对应的二项分布的KL距离，优化了光子计数器中的参数（判决阈值以及脉冲保持时间）。