随着社会信息化的不断发展，高速率高质量数据业务的增加对传输系统容量提出了新的要求，使用100Gbit/s传输技术来支撑下一代骨干网的需求已初露端倪。由于OFDM技术将信号分为多个低速比特流，可以降低接收机对电域均衡速率的要求，从而实现大容量信息长距离传送，然而色散和非线性对系统的影响依然不可忽略，对光OFDM系统进行数字均衡具有重要的研究意义。本文主要研究如何用数字均衡的方式补偿光OFDM系统中的色散和非线性。　　首先介绍了OFDM技术的基本原理，建立了光OFDM系统的系统模型，并且分析了该系统中色散、非线性以及相位噪声的影响。然后分别搭建了直接检测和相干检测光OFDM系统。直接检测系统中的色散和偏振模色散的均衡采用基于常模算法(CMA)的线性均衡器，仿真结果表明均衡效果能够达到系统的误码性能要求；相干检测系统中色散和偏振模色散造成星座点的旋转，对此本文提出一种联合相位均衡方案，该相位均衡方案的思想在接收端利用导频信息首先消除各个子载波的公共相位误差，然后采用自适应均衡方式消除每个子载波自身相位误差。仿真结果表明，对于4-QAM调制信号，在采用常规的G.652光纤、100Gbit/s的相干光OFDM系统中，该联合相位补偿方法可使信号在满足传输系统的误码性能要求下，传输距离达到1000km。最后验证了用基于Voterra级数估计器的最大似然均衡器(MLSE)实现对非线性相位补偿的可行性。