受频谱资源限制，现有无线通信技术已很难承载未来更高速的传输需求。基于发光二极管(Light-emitting Diode，LED)的可见光通信(Visible Light Communication，VLC)融合了无线通信技术和光通信技术，具有不占用频谱资源、发射功率高、无电磁干扰等优点，是实现室内无线高速传输的一种补充技术。但LED有限的物理带宽使可见光通信的传输速率受到限制，多输入多输出(Multiple Input Multiple Output，MIMO)和正交频分复用(Orthogonal Frequency Division Multiplexing，OFDM)技术能够提高传输速率，但室内子信道之间较强的相关性限制了MIMO的优势，LED的非线性严重影响了OFDM的性能。本文结合色域、频域和空域多维资源探索适用于室内可见光通信系统的高效编码调制方案及能够降低子信道之间相关性的有效方法。主要创新性成果包括：
　　(1)研究了非空室内随机分布反射物的分布模型，估算了其信道表征参数，与空旷室内的传输特性进行了比较。结果表明，随机分布反射物对非直视链路的影响比直视链路要大，均方根时延扩展的大小和范围比空旷室内要大，传输速率比空旷室内要小。
　　(2)提出了离散正弦/离散余弦变换直流偏置离散多音频(Discrete Sine/Discrete Cosine Transform DC-biased Discrete Multitone，DST/DCT DC-DMT)调制方案，对该调制信号的峰均功率比(Peak-to-average Power Ratio，PAPR)的互补累积分布进行了理论分析，并对所提方案与已有多载波调制方案的系统性能进行了比较。结果表明，DST/DCTDC-DMT信号的PAPR随子载波数的增加而增大，与调制阶数无关，在相同传输速率下，所提方案的系统误码率性能比已有DMT方案和OFDM方案的系统误码率性能更为优越；
　　(3)提出了同色异谱OFDM空间调制方案，该方案具有较高的频谱效率高和功率效率，接收端不会产生颜色闪烁，通过区分目标光的光谱成分判断发送信号的极性，解调过程简单易实现。所提方案与已有空间调制OFDM方案的系统性能的对比结果表明，所提方案与可见光波段的颜色兼容且目标光进行颜色切换时能够维持系统误码率性能的稳定，相同频谱效率下，所提方案的系统误码率性能比其它空间调制OFDM方案的系统误码率性能更好；
　　(4)研究了垂直探测室内MIMO信道矩阵秩的分布、影响信道相关性的因素及相关性对系统性能的影响，采用角度分集探测降低室内可见光MIMO-OFDM系统信道的相关性；研究了空间信道相关时室内可见光通信系统的信道容量，并对角度分集探测与垂直探测的系统性能进行了比较。结果表明，在最优探测夹角下，角度分集可以有效分离来自不同光源的信号，接收端水平旋转和垂直旋转时系统误码率基本不变，信道容量也优于垂直探测。
　　本文工作为提高室内可见光通信系统的传输可靠性和传输容量提供了新的途径，为丰富可见光通信系统的应用场景奠定了理论基础，为实际室内可见光通信系统的设计提供理论指导。