随着人们对多媒体宽带业务的需求日益增强，毫米波频段的应用是无线通信迈向大容量和高速率的有效途径。光纤无线通信系统可以结合光纤巨大的频带优势和无线通信的灵活性，构建简单的基站单元，降低60GHz毫米波接入网的成本。正交频分复用调制技术与光纤通信相结合能在一定程度上抵抗色散和偏振模色散的影响，从而提供可靠的数据传输。OFDM和RoF技术相结合将成为4G的一种组网方式。本文搭建了60GHz OFDM-RoF直接检测系统平台，并且理论分析了平台中存在的子载波互拍带来的符号间干扰和频率选择性衰落，提出了采用前向纠错码来提高系统的整体性能。通过模拟仿真和硬件实验系统分析了多种前向纠错码在OFDM-RoF系统中的应用，并取得了如下成果：第一，分析了硬判决译码的相关码型应用在OFDM-RoF系统中的性能，比较了RS码，RS码级联BCH码以及BCH码级联BCH码方案在系统中的优劣。由于BCH(255,239)码级联BCH(127,113)码方案中成员码码长较短译码速度较快，并且采用了交织和硬迭代译码技术提高了编码增益，本文提出的BCH码级联BCH码方案相对于未编码16QAM方案带来了6dB的编码增益，可以作为OFDM-RoF系统中前向纠错技术的选择之一。第二，分析了低密度奇偶校验码应用在OFDM-RoF系统中的性能。LDPC码本身具备抗突发错误的能力可以解决OFDM-RoF系统中存在的误码分布不均匀的问题，且其具备接近香农限的优良性能。本文提出了LDPC码在系统中应用时采用的编译码算法和迭代次数的相关建议，所采用的LDPC码方案相对于BCH级联码的方案多出2dB的编码增益。第三，提出了网格编码调制技术在OFDM-RoF系统的应用，提高了系统传输性能。该技术无需展宽带宽即可获得明显的编码增益，满足OFDM-RoF系统中对高码率的要求。本文方案中采用符号交织来解决子载波误码分布失衡的问题，通过外部级联RS码使得实用的网格编码调制技术的误码曲线成陡降趋势。最后搭建了硬件实验平台来验证了该编码方案的可行性。OFDM信号采用码率为0.9的RS(511,459)-PTCM方案比未编码的16QAM调制提高了7dB左右的接收机灵敏度。