近年来,随着虚拟/增强现实（VR/AR）、人工智能（AI）、大数据以及云计算等新型网络应用场景的出现,迫切需要更高质量的接入网络来满足人们对通信终端高性能的需求,因此高速率、大带宽和灵活接入的数据收发及传输成为未来新一代接入系统发展的目标方向。无源光接入系统（PON）因其传输容量大、成本预算低、接入频带宽、电磁辐射少、易于兼容现有电信接入网络等应用优势,成为现今最具发展潜力的宽带接入系统。目前,射频（RF）频谱资源短缺问题日益突出,给传统无线通信带来了前所未有的压力,可见光通信（VLC）技术采用发光二极管（LED）作为光源,频谱资源丰富且无需申请即可使用,具有保密性强、节约光电器件资源等应用优势,在传输数据的同时支持低能耗照明,受到学术界的广泛重视。因此,在PON和VLC接入系统中研究并应用宽带调制解调技术来进一步提升传输速率、通信容量、频谱利用率及室内多用户终端的接入灵活度具有重要的研究意义和实际价值。本文对PON和VLC高速接入系统的结构及原理进行了阐述和分析,比较研究了正交频分多址（OFDMA）技术、偏振复用（PDM）技术以及多色复用技术等多维带宽信号处理方式以提高通信网络终端用户的接入性能;并研究了正交幅度调制（QAM）、脉冲位置调制（PPM）,最小频移键控（MSK）和正交频分复用（OFDM）等各类宽带调制技术在系统中的相关应用性能;主要研究过程及研究内容如下所述:设计了在6 GHz频段实现高速数据收发及传输的宽带光接入系统方案,即将1.25Gbit/s非归零码开关键控（NRZ-OOK）信号经6 GHz副载波调制后通过20 km标准单模光纤进行传输,并再分配给四个光网络单元（ONU）实现宽带信号接入,在一定程度上减轻了2.4 GHz和5 GHz Wi Fi频段的接入系统的带宽资源负担,缓解了频谱资源短缺的问题;设计了传输速率为50 Gbit/s采用16/32QAM-OFDMA技术的宽带光接入系统方案,支持同时传输四路高速下行信号,并通过自混频检测技术简化了系统配置从而降低了成本预算,研究结果表明:16QAM-OFDMA系统具有更好的接收灵敏度、更低的计算复杂度及更好的抗干扰能力,但在通信容量和频带利用率方面则不如32QAM-OFDMA系统;设计了采用32QAM-OFDMA技术和NRZ-OOK技术的全双工宽带光接入系统方案,支持同时进行三路32QAM-OFDMA信号下行传输及一路NRZ-OOK信号无误码上行传输,且ONU是无源的降低了用户端的系统复杂度及预算成本;设计了融合PDM技术和OFDMA技术的宽带光接入系统方案,仅采用单个外腔激光器即实现了六路32QAM-OFDMA信号的下行传输,通信容量较未采用PDM时提高了一倍,研究结果表明:当接收光功率大于-14 d Bm时,六路下行信号的误码率均可低于10-3;设计了采用PPM技术的多色复用VLC宽带无线接入系统方案,支持在传输三路信号的同时为室内环境提供照明功能,并与传统的NRZ-OOK调制信号的传输性能进行了对比分析,研究结果表明:当误码率相同时,16-PPM信号的接收机灵敏度更高;设计了融合PPM和MSK调制技术的多色复用VLC宽带无线接入系统方案,并与MSK调制信号的传输性能进行了研究对比,结果表明:当接收光功率相同时,4-PPM-MSK信号具有更低的误码率;为了推进农村信息化网络建设,实现山区库区农村乡镇居民的宽带无线接入以及资源利用最大化,设计了融合PON和VLC技术的多用户接入系统方案,采用64QAM-OFDMA技术将三路下行传输信号接入室内,再通过PPM-MSK多色复用VLC技术承接三路数据并传输至各个终端用户,在上行链路中采用信号交替反转码（AMI）对信号进行调制、编码并实现了信号的无误码上行传输。