随着互联网宽带业务的爆炸式增长,对光网络的数字化、宽带化、智能化和安全保密等性能提出了更高的要求,在骨干网和城域网升级改造后,光接入网成为了解决通信网“最后一公里”问题的关键。作为连接服务提供商和终端用户的馈入网络,光接入网的保密性与生存性是两大不容忽视的重要问题。但现阶段物理层中的光层并不具有保密功能,使得光接入网很容易被窃听和攻击。同时,光接入网结构复杂,易发生故障,且目前链路故障检测手段复杂、设备成本高,使得网络运维效率低下、成本较高。混沌激光具有类噪声的随机起伏特性,可用于隐藏待传输的信息,从而实现保密通信。同时,混沌激光良好的自相关特性可用于光纤链路故障点的检测与定位。因此,如何将混沌激光的众多优势应用于光接入网中,既能够实现高速率、高覆盖的光接入网保密通信,又能够实时监测网络的故障,提高光接入网的运维效率,降低运维成本,成为混沌激光应用研究亟待解决的关键科学与技术问题,具有巨大的潜在应用价值。本论文在充分调研国内外研究现状的基础上,选择混沌激光保密通信偏振复用传输、实时在线光纤链路故障监测、宽带混沌光接入网结构,以及宽带混沌激光发射机与通信系统等关键问题,进行了系统深入的理论和实验研究。具体完成如下创新性工作：(1)提出了混沌激光保密通信偏振复用传输技术与方案,增加了混沌激光保密通信光接入网的复用维度,分别实现了单波长x和y偏振方向的混沌激光保密通信偏振复用和常规光通信与混沌激光保密通信的偏振复用。所有通信信道承载的数据速率均为1.25Gb/s,传输距离达22.54 km。此外,还实验观测和分析了接收端信号泄露和发送端入纤光功率的变化对系统通信性能的影响。(2)提出了利用混沌激光保密通信系统中的通信信号进行实时在线光纤链路故障检测的方法,实现了在两种光接入网结构：WDM-PON和EPON中的保密通信与实时在线故障检测与定位。对于WDM-PON,提出了基于在线混沌光时域反射仪和基于一种波长可调谐混沌光时域反射仪两种实现方案,并对两种方案中影响故障定位性能的因素进行了分析。对于EPON,提出了混沌光序列编码器,实现了对于EPON中光纤链路故障点的精确定位。实验结果表明,该方法的故障检测过程与正常通信互不干扰,具有实时在线故障检测与定位功能,且可对距OLT端20 km以上的故障点进行高精度定位。(3)提出了基于宽带混沌激光的环形光接入网保密通信与故障监测技术与方案,既实现了信息在环网上的安全保密传输,又解决了树状拓扑结构网络可靠性低等问题。设计了关键网元、一种适用于该接入网结构的宽带混沌激光发射机与双向宽带混沌激光保密通信系统。分别对混沌激光发射机、宽带混沌通信系统以及环形接入网的性能进行了数值仿真分析。此外,结合网络与关键网元结构设计了故障保护方案以及实时在线故障检测与定位方案。结果表明,混沌激光载波的带宽高于20 GHz,可实现OLT与ONU之间的双向长距离混沌激光保密通信,单波长速率可达10 Gb/s；经过色散补偿,传输距离可高达100 km。此外,该接入网结构可灵活改变数据传输方向以规避故障点,同时基于宽带混沌激光可实现实时在线故障检测与定位功能。(4)提出了一种光子集成混沌激光发射机的新结构及其设计方法,设计了发射机中的光子晶体波导结构及有源与无源器件结构,对该发射机的性能进行了数值仿真分析。结果表明,利用光子晶体波导,可将芯片尺寸缩短至1.125 mm。同时,该发射机可在6mA的半导体光放大器注入电流下输出混沌激光,降低了发射机的功耗。