ROF(Radio Over Fiber)系统是微波光子学中非常重要的一项技术分支,它具有重量轻、体积小、高带宽以及抗干扰等特点,是一项非常有前景的技术,目前有着广泛的研究。与此同时,数字相干接收具有高频谱效率、高接收灵敏度、多功能的后处理功能等典型特点。随着高速数字信号处理器DSP技术以及相干光通信技术在最近几年的快速发展,基于相干光探测、数字接收系统的研究越来越受关注。本论文分别对ROF系统的关键技术以及数字相干光通信关键技术进行了理论研究,并对各自的技术优缺点给出了相应的分析。在理论分析的基础上研究在ROF传输系统中引入相干光探测接收,以解决传统ROF链路中存在的各种问题,使其能够实现全双工传输。考虑ROF链路特点,研究数字相干接收机内的补偿算法,重点研究并搭建仿真平台对频率锁定与相位恢复、线性解调、载波恢复等算法进行理论推导和仿真证明。最后,根据分析搭建相应的实验平台,针对BPSK和QPSK信号进行了实验验证。仿真结果和实验结果表明,相应的数字接收机的处理算法能够完成并提高整个信号的传输功能。