可见光通信（Visible Light Communications,VLC）是以光作为信息传输载体、将信号加载到可见光上的一种新型无线通信方式,其拥有更大的通信带宽和更高的通信速率,已经成为当前通信领域中的研究热点。同时,由于可见光通信的传输距离远、保密性好等优点,其在海洋水下通信中也具有非常大的应用价值。信号解调在VLC系统中起着至关重要的作用,现有关于可见光信号解调的方法基本都是沿用无线通信中的相干解调方法,关于解调的研究也大多停留在假设信道为纯高斯白噪声信道的仿真阶段,该情况下传统解调器具有不错的性能。然而,在实际VLC链路中,受信道环境、信号调制格式、背景光噪声干扰等众多不确定因素的影响,光接收机中解调器设计往往非常复杂。因此,针对接收信号调制格式和信道环境的变化,实现一种不需要提前知道信道状态先验信息且解调性能较好的解调器有着重要研究价值。在拟合非线性系统信道特性方面,机器学习有着很好的表现,本文引入机器学习分类算法到可见光通信系统中接收端的信号识别中来,围绕可见光通信智能解调技术展开研究。本文主要工作和研究成果如下:（1）根据VLC系统的基本结构搭建了一个端到端的可见光通信实验平台,研究了 BPSK、QPSK、16QAM三种常见的VLC调制技术,在MATLAB上仿真生成了三种格式的调制信号,并在室内空气中和水下两种信道环境成功完成了可见光通信数据传输和采样,对采集的数据进行预处理构建了一个VLC实测数据集。（2）对解调系统建模,将VLC系统中的信号解调问题转化为机器学习中的分类问题,实现了基于CNN、AdaBoost、DBN-SVM三种机器学习解调器。（3）用构建好的VLC数据集对实现的机器学习解调器模型进行训练和验证。量化分析了不同调制格式和不同VLC信道环境下三种解调器性能,实验结果表明机器学习解调器在各种调制格式和信道环境下均有着不错的解调性能。其中,AdaBoost解调算法性能最佳,如在室内空气环境下,对于16QAM信号,当信噪比高于14dB时,解调误符率可达10-3。DBN-SVM解调算法其次,CNN解调算法在低信噪比时拥有不错的性能,但高信噪比时解调效果不佳。此外,对比室内空气中和加了明矾的水下两种信道环境下解调性能时发现,低信噪比时两种链路性能接近,但当信噪比高于12dB时,前者解调性能要比后者好4dB以上。