OFDM-PON由于具有资源分配灵活、频谱效率高、抗光纤色散能力强等优点,被认为是突破“最后一公里”瓶颈的最佳方案。但随着用户数量地不断增长,OLT和ONU之间存在大量、频繁的业务交互,OFDM-PON中的下行广播通信数据容易受到非法ONU的恶意窃听和攻击。而混沌由于带宽大、随机性高、对初始值敏感等特点,成为一种保障物理层数据安全传输的有效方法。本文以OFDM-PON为研究对象,提出了基于混沌的物理层多层安全加密方法,并结合密钥管理技术,研究了动态密钥协商机制。本论文的主要工作及贡献如下:（1）提出了一种基于DNA重构混沌序列的多层加密方法。该方法采用DNA编码对混沌序列进行分块、编码、变换,由于选择的DNA编码规则和分割的混沌序列块数是随机的,与直接使用混沌序列加密相比,DNA重构混沌序列可以提高加密序列的随机性和安全性。对传输信号进行两层加密:第一层是混合混沌排列扩散,每个符号都要进行单次无重复置乱,并结合与明文相关的扩散,使扩散不仅依赖于加密序列,而且与排列顺序有关;第二层是动态约瑟夫斯置乱,该步骤将符号矩阵划分为单元进行加密,提高了置乱效率。研究结果表明该方法在不降低系统性能的前提下,能够有效抵御各种攻击。（2）提出了一种混沌RNA-DNA加密和动态密钥协商方法。该方法采用一种基于m RNA码本的动态密钥协商方法实现密钥分发,收发双方提前商定好密钥生成规则,通过预共享与明文相关的密钥参数集来取代直接在信道上传输密钥,增强了密钥的安全性和随机性,且根据用户的需求可以实现实时、动态地密钥更新。传输数据在QAM调制后,进行t RNA-氨基酸编码加密和DNA碱基互补选择映射加密。该方法利用了t RNA与氨基酸对应关系的多样性,拓展了DNA碱基互补规则的选择映射关系,使得数据变化更具随机性。并且选择的编码规则是明文相关的,每个碱基的解码规则是随机、相异的,则可以更有效地提高抵抗攻击的能力,实现更高的安全保障。此外,还增加了立方置乱来确保物理层全数据加密。研究结果表明该加密方法由于在编码过程中改变了星座点之间的相位关系,在提高安全性能的同时也改善了通信性能。