现代无线通信系统中,有限的带宽资源远无法满足与日俱增的无线宽带接入需求。为了实现任何时间、任何地点的宽带无线接入,无线通信系统通过减小小区面积,降低小区接入用户数量提高单位接入带宽,通过增加小区数量保证覆盖范围。此外无线接入业务的多样化又为系统提出了多频段、多业务的接入的需求。小区和载波数量的成倍增加使得当前无线通信系统无论从技术到成本都面临着巨大的挑战。光载无线系统因其高带宽低损耗的传输能力,简单低成本的终端天线单元以及集中控制机制被认为是未来最有力的无线通信支撑技术。针对无线通信系统面临的带宽瓶颈以及日益增加的小区和载波数量带来的挑战,基于光载无线技术,论文从复用传输、链路性能优化以及资源动态管控三方面开展了深入研究,论文创新工作如下：为了最大化无线网络基础设施利用效率,实现一根光纤传输多路信号的复用传输是光载无线系统追求的目标。论文对面向多小区复用传输的波分复用技术(WDM)以及面向多频段复用传输的副载波复用技术(SCM)进行了系统架构分析和传输模型推导。基于WDM-SCM技术,搭建了面向4个小区、4种无线业务混传的光载无线系统,实现了大于36dB的系统动态范围,验证了两种复用技术传输模型的准确性。此外,论文还探索实现了面向多小区应用的相干复用传输技术,该技术仅需一个可调光时延器即可实现小区间的射频信号切换,研究结果表明当光纤传输距离小于lkm,复用路数小于5路时,该技术是一种动态调配灵活、低成本的光纤无线融合接入解决方案。为了实现高性能的信号传输,解决光载无线系统非线性电光调制特征对链路动态的范围影响是主要突破点。针对下行链路,论文研究并实现了副载波复用光载无线下行链路数字预失真技术,通过对复用传输的各路信号分别进行数字预失真,降低了对数字信号处理设备的带宽需求。实验结果表明利用现有商用～100MHz的数字信号处理设备可对数GHz带宽的两载波复用传输光载无线链路实现大于14dB的邻信道非线性泄漏抑制及3dB的动态范围提高。针对动态范围要求较高的上行链路,论文提出了光相位调制、相干接收的光载无线链路非理想性能补偿和相位模糊纠正技术,进一步抑制了接收端的残余非线性,实现了128.8 dB-Hz2/3散粒噪声限制的无杂散动态范围。资源动态管控是实现高速、低功耗无线接入系统的最有效途径。为了最大化系统传输效率,论文提出了基于多载波传输性能均衡算法的功率控制技术。本技术可使副载波复用光载无线系统在满足下行信号接收质量的前提下减少不必要的发送功率,平均节能效果为4.3dB。为了最大化无线带宽利用率,论文提出并搭建了认知、协同、节能的光载无线系统(3C-ROF),通过光波动态路由技术实现了小区间无线带宽的动态分配。系统在负载较低时仅用一个射频频点服务于多个小区；当无线接入负载在小区间迁徙时,系统可实时将更多的带宽资源调配至负载量较大的小区,有效地缓解了无线通信系统的潮汐效应问题。