白光LED具有高亮度、低功耗、长寿命等优点，已有逐渐取代日光灯和白炽灯的趋势，成为下一代主流照明光源。白光LED除照明优点外，高达几MHz到几百MHz的调制带宽使其用于通信成为可能，且不需频谱许可。目前，基于LED的室内可见光通信（VLC）吸引了国内外研究机构的广泛关注，并成立了相应的研究团体和组织，其聚焦点主要是通过调制方式和信道编码方法来提高通信速率，而对室内VLC光学接收端的研究较少。本文主要对VLC系统光学接收端进行研究。其应具有如下特点：高接收功率、高信噪比、广视场角、轻小型化、低成本。根据白光LED的种类，室内VLC系统可分为两类：基于磷荧光粉蓝光激光芯片式白光LED的室内VLC系统和基于RGB式白光LED的室内VLC系统。本文在建立包含非视距链路（NLOS）时照度均方差最小化的室内VLC信道模型的基础上，提出包含NLOS下接收器倾斜设计的方案，并针对上述两类室内VLC系统，提出两种反射型体全息光学接收端的设计方案和实验验证。本文的主要研究内容如下：1、讨论典型室内的光源布局设计，定量计算视距链路（LOS）和包含非视距链路（NLOS）两种情况下室内桌面的照度分布、接收器接收功率分布和系统信噪比分布，提出考虑NLOS情况下室内水平桌面均方差照度最小化的光源布局设计方案，得出室内墙壁一次反射对室内桌面照度、接收器接收功率和系统信噪比的影响不可忽视，尤其是墙壁反射引起的码间干扰降低了系统信噪比，并提出抑制码间干扰的缓解策略。2、基于室内单灯和多灯布局两种情况，提出包含NLOS情况下倾斜接收器的设计方案，使用牛顿迭代快速算法计算考虑NLOS时室内水平桌面各个位置处接收器的最佳倾角，迭代次数仅为3～4次；比较室内水平桌面各个位置处倾斜前后接收端的接收功率和系统信噪比，倾斜后系统信噪比最小值、平均值分别提高约5dB、2dB。仿真可知，倾斜接收器的方式对室内角落处信噪比有明显提升，室内中心位置附近信噪比也有一定提升。3、基于Kogelnik平面波干涉的耦合波理论，提出具有曲面干涉条纹体全息光栅的“曲面”耦合波理论，推导具有曲面干涉条纹的体全息光栅内任意位置处光栅矢量大小和方向的公式。计算分析发现，具有曲面干涉条纹的体全息光栅，不同位置处的波长选择性和角度选择性可能不同，均取决于记录过程中参考光波传播矢量和信号光波传播矢量的夹角：夹角越大，角度和波长选择性越强，反之越弱；对于透射型体全息曲面光栅，某些位置旁瓣衍射效率会超过主瓣衍射效率，即白光再现时会产生严重的色散问题；而反射型光栅不会出现这样的现象，其良好的光谱选择性使其用白光再现成为可能。因此，对于白光LED VLC系统来说，其光学接收端需使用反射型体全息曲面条纹光栅。4、根据两种不同白光LED VLC系统，提出两种离轴反射型体全息光学接收端的设计方案。对于磷荧光粉式白光LED VLC系统，设计具有滤除黄光和衍射聚焦蓝光的体全息光学接收端，分析该光学接收端对蓝光的波长选择性和角度选择性；对于RGB式白光LED VLC系统，设计具有分离和会聚RGB光于不同位置的多波长多重记录体全息光栅，分析该光学接收端对RGB光的波长选择性和角度选择性，实验验证其分离和会聚RGB光束的功能，具有优良的聚光性能和滤波性能。针对体全息光栅的窄的角度选择性问题，提出增加体全息光栅视场角的方法，分别为参考光束多角度分时多重记录和参考光束多角度空间多次记录的方法，能有效提高体全息光栅的视场。