随着人们对于信息化需求的不断提升，光接入网架构的升级与技术的提升已成为必然趋势。无源光网络(Passive Optical Network，PON)技术被视为光接入网的主流承载方式，其系统带宽、频谱利用率、传输速率与安全性等指标也被提出了更高的要求。将具备高频谱效率、低成本等优势的直接检测光正交频分复用(Direct Detection Optical Orthogonal Frequency Division Multiplexing，DDO-OFDM)技术与无源光网络结合已被视为NG-PON关键技术的有力候选者，并引起了业界广泛的关注。本文基于直接检测光OFDM-PON系统中多种损伤理论的分析，提出了一系列数字信号处理技术进一步改善系统接收发机的性能以及系统的安全性能。本论文的主要研究内容以及取得的相关研究成果如下：
　　1、提出了一种集中于光链路终端(Optical Line terminal，OLT )实现的自适应采样频率偏差(Sampling Frequency Offset，SFO)补偿算法，并在OFDM-PON系统中进行了点对多点的验证。该算法采用最小二乘法获取探测信号子载波上数据符号的相位估计，降低了光网络单元(Optical Network Unit，ONU)架构复杂度且不会降低信号的频谱利用率。除此之外，通过设计合理的OFDM帧结构，在避免SFO引入符号间干扰(Inter-Symbol interference，ISI )的同时降低系统的计算复杂度。实验结果显示，14.29Gps的16QAMOFDM信号在20km标准单模光纤传输后，当接收光功率为-8dBm时，4路ONU中高达±200ppmSFO可以被有效的补偿且SFO估计偏差小于±1ppm。
　　2、提出了一种环形幅度-相位键控(Amplitude-Phase Shift Keying，APSK)结合符号间差分检测(Inter-Symbol Differential Detection，ISDD)的采样频率偏差补偿方案。基于符号间差分检测的采样频率偏差补偿方法在不会降低信号频谱利用率的前提下，无需进行采样频率偏差的估计，从而避免残留采样频率偏差的影响。除此之外，本文利用边带相位补偿技术补偿该算法引入的边带相位偏移，但该算法引入的相位噪声会随着信号调制阶数的提高而严重恶化系统的传输性能。在此基础上，本文提出一种对相位噪声具备鲁棒性的64点环形幅度-相位键控信号调制格式，并在高斯白信道和直接检测光纤传输系统中进行了仿真验证。仿真结果显示，当SFO=±200ppm时，相较于传统64QAMOFDM信号，提出的64APSKOFDM信号具备更优的误比特(Bit Error Rate，BER)性能。当误码率为1E-3时，64APSKOFDM信号在高斯白信道和直接检测光纤传输系统中分别能实现信噪比(Signal Noise Ratio，SNR)3dB与2dB的增益。
　　3、提出了一种一维混沌Chebyshev序列映射联合RSA工钥算法的加密方案，并在60GHz光载无线通信(Fiber-wireless，Fi-Wi)架构中进行了仿真验证。仿真结果显示，LDPC信道纠错编码的使用提升了系统的传输性能，64QAMOFDM信号经30kmSSMF光纤传输后，拥有密钥的合法用户能有效地解密原始数据流。
　　4、提出了使用Henon映射产生的混沌序列控制哈达马预编码矩阵的行-列索引而实现对OFDM-PON进行物理层加密的方案。首先，为了克服光通信系统中高频子载波衰落严重现象，使用哈达马预编码技术已实现对子载波上噪声共享。除此之外，利用行-列变换后的哈达马矩阵与原矩阵相关性不改变的特性，产生由混沌序列控制的加密哈达马矩阵并在OFDM-PON中进行实验验证。实验结果显示，加密方案具备较大的密钥空间(~10178)。当接收信号误码率为1E-3时，基于加密Hadamard矩阵预编码的OFDM信号的接收灵敏度在OB2B与20km单模光纤传输后，相较于传统OFDM信号有2.3dB与1.2dB的增益。