近年来,机器学习、社交网络和云计算等新兴技术的出现导致了用户数据流量和带宽需求的急剧增长。为了满足高带宽和大容量业务的发展需求,短距离传输系统逐渐成为光纤传输网络技术的核心研究点之一。短距离传输系统的收发机制主要包括基于IMDD（Intensity Modulated Direct Detection,IMDD）的直接检测和基于IQ调制的相干检测两种技术。其中,IMDD技术具有成本低廉、实现简单的特点,而先进的光多载波调制技术则是提升IMDD系统性能的一种很好的解决方案。基于IMDD的偏移正交振幅调制正交频分复用技术（Offset Quadrature Amplitude Modulation-Orthogonal Frequency Division Multiplexing,OQAM-OFDM）凭借着低成本、高频谱效率、异步传输的优势成为光多载波传输系统的优选技术。本论文围绕基于IMDD的光OQAM-OFDM传输系统中的量化方案进行研究。为了有效解决OQAM-OFDM系统中的高均峰功率比（Peak to Average Power Ratio,PAPR）而带来的系统性能降低和需要高精度数模/模数转换器件等问题,本论文主要开展了标量量化和矢量量化方案的研究,主要工作和创新点如下:1、标量量化包括均匀量化和非均匀量化。将限幅与量化操作相结合提出了均匀量化方案,并研究了均匀量化方案对系统性能的影响。分析了均匀量化方案的局限性,提出了三种非均匀量化方案,分别是基于高斯分布、基于非参数直方图估计（Non-Parametric Histogram Estimation,NPHE）和基于反向传播神经网络（Back Propagation Neural Network,BPNN）的非均匀量化方案。实验结果表明这三种非均匀量化方案与均匀量化方案相比,分别能获得3.33d B、3.88d B、3.87d B的信号对量化噪声比率（Signal to Quantization Noise Ratio,SQNR）提升。2、为了进一步减小量化噪声,提出了两种矢量量化方案:基于K均值聚类和基于模糊C均值聚类（Fuzzy C-Means,FCM）的矢量量化。矢量量化与标量量化相比,它具有两个优势:一是矢量量化不需要使用线性规划从而降低了系统开销;二是矢量量化关联了正交和同相信号从而提升了系统性能。用实验证明了矢量量化方案在基于IMDD的光OQAM-OFDM传输系统中的有效性,成功实现了在10G/s速率和低接收光功率下系统达到前向纠错（Forward Error Correction,FEC）误码率（Bit Error Ratio,BER）门限。在相同的量化比特分辨率下,矢量量化相比于最佳的标量非均匀量化至少能实现1d B的SQNR提升。