随着移动通信用户人群的不断增加，电磁波谱中射频无线通信所占用的无线电波频带愈渐拥挤。以频率更高、波长更短的光波作为传输媒介的通信方式，具有可用频带宽、通信容量大、传输速率高及抗电磁干扰能力强等优点，成为通信领域的研究热点。其中，室内可见光通信技术就是在普通照明光源的基础上增加了数据传输功能，通过照明光源的高速明暗闪烁来传递信息，接收端则使用光敏器件来捕捉获取光信号中携带的数据信息。该系统为室内无线通信网络提供了一种全新的宽带接入方式，是构建室内无线通信系统的一种有效补充。基于此，本文对室内信道环境下可见光通信系统的关键技术展开研究，重点研究室内可见光通信的信道模型、调制解调技术及信道编码技术，为室内可见光通信技术的实用化奠定基础。首先，本文对以LED(Light Emitting Diode，发光二极管)阵列作为照明光源的室内可见光通信系统信道传输特性进行了深入分析，建立了一种涵盖光源布局与布线的室内可见光通信信道模型。通过对可见光直射视距链路和反射非视距链路的特点分析，就其中存在的不完善之处进行了深入研究，首次考虑了发射端LED阵列中光源分布、无线通信接入点与LED阵列之间的路径、LED阵列与LED之间的路径、LED光源存在多个反射路径等信道因素，对现有室内可见光通信系统信道链路模型进行了改进，推导了涵盖光源布局与布线的室内可见光通信信道冲激响应函数的数学模型。通过对该信道模型的仿真研究表明，无线通信接入点与LED阵列之间以及LED阵列与各个LED之间的路径会加剧可见光通信系统的接收端多径效应的影响，而系统的最高数据传输速度也会受到LED阵列拓扑结构的限制。基于该信道模型，也研究了缓解LED阵列光源发光不一致所引入的符号间干扰现象的策略，并对各个策略的优缺点进行了分析。其次，为了提高室内可见光通信系统的数据传输速率，并考虑LED调制带宽的影响，本文重点研究了室内可见光通信系统中的调制解调技术。论文分析了可见光通信系统典型调制方式的基本原理，结合室内可见光通信系统对调制方式的特殊需求，提出了一种MVPM(M-ary Variable Period Modulation，多进制变周期调制)调制方法，给出了MVPM的调制和解调原理及参数选取原则，分析了MVPM的带宽利用率、误符号率、闪烁缓解和明暗控制等性能，理论仿真结果表明，相比于传统的数字基带调制方式，MVPM拥有更佳的带宽性能，适合应用于调制带宽受限的室内可见光通信系统中。在此基础上，本文对MVPM进行了改进，提出了DCF-MVPM(Duty Cycle Fixed-MVPM，占空比固定多进制变周期调制)和MNVWPM(M×N-ary Variable Width PeriodModulation，多进制变宽度周期调制)两种调制方式，其中DCF-MVPM解决了MVPM潜在的光源闪烁问题，MNVWPM则具有更高的带宽利用率，适合信噪比高的应用场合。同时，对MVPM、DCF-MVPM和MNVWPM三种调制方式对信道产生的符号间干扰现象的抵抗能力进行了分析。然后，为了更好的适应信道环境，提高系统的传输性能，本文对室内可见光通信系统中的编码技术展开了研究，提出一种基于RS码(Reed-SolomonCode，里德-所罗门码)编码体制的LDSCC(L-Dimensional Serial ConcatenatedCode，多维串行级联码)的信道编码技术。详细给出了LDSCC的编译码原理和构造过程，并通过仿真实验验证了该方法对信道传输性能的改善结果，LDSCC编码维数越高，信道传输性能越好，但是相对应的编译码复杂度也越高。同时，考虑到室内可见光通信系统数据传输的特殊要求，提出了RALDSCC(Rate-Adaptive L-Dimensional Serial Concatenated Code，码速率自适应多维串行级联码)编码结构，根据室内光强的不同选择相应的编码维数以实现不同的数据传输速率，理论分析了该编码方法的有效性。最后，为了验证室内可见光通信系统调制解调技术和编码方法的性能，本文设计了室内可见光通信硬件实验系统，给出了硬件实验系统的结构框图、关键器件选取及核心电路设计过程。在该实验平台上，通过改变多进制变周期调制MVPM及其改进型的调制方式—占空比固定多进制变周期调制DCF-MVPM和多进制变宽度周期调制MNVWPM的调制参数及可见光光源与接收光敏二极管之间的通信距离等因素，分析了MVPM、DCF-MVPM和MNVWPM在室内可见光通信实验系统中的传输性能，给出了各种实验条件下的误符号率与通信距离之间的关系；研究了多维串行级联码编码结构与MVPM结合后在室内可见光通信系统中的传输性能，验证了多维串行级联码编码结构的纠检错性能。