模数转换在信号处理和通信系统中具有重要的作用,大模拟带宽、高采样率、高量化精度的模数转换器一直是人们追求的目标。模数转换主要分为采样、量化和编码,而采样和量化决定了模数转换器的性能。在传统的电模数转换中,采样率和量化精度相互制约从而难以提升其性能,而全光模数转换既能避免电子器件的速率瓶颈问题,又能解决采样率和量化精度之间的矛盾,因此引起了人们的广泛关注。目前,光采样可以实现超过100 GS/s的速率,为了充分利用高速光采样,光量化的问题亟待解决。基于自相位调制、交叉相位调制、四波混频等非线性效应发展而来的全光量化,有望实现更高的量化精度以及器件的小型化和集成化,因此具有重要的研究意义。本文开展了基于光纤非线性效应实现全光量化的研究,采用切割超连续谱和孤子自频移两种方法进行全光量化,具体研究工作如下:1、基于切割超连续谱实现量化的原理,本文设计了采用切割正常色散的高非线性光纤中产生的超连续谱的全光量化方案,通过将脉冲的输入功率映射到不同的高电平数量实现光量化。利用非线性薛定谔方程模拟光脉冲在光纤中产生超连续谱的过程,得到了超连续谱的宽度和脉冲的输入功率近似成正比,并利用波分复用装置切割超连续谱,仿真证明了方案的可行性。搭建了全光量化实验平台,实现了 3比特的全光量化器,其微分非线性误差和积分非线性误差分别为0.29 LSB和0.36 LSB,进一步证明了方案的有效性。2、基于孤子自频移实现量化的原理,本文设计了采用在反常色散的高非线性光纤中产生孤子自频移的全光量化方案,通过将脉冲的输入功率映射到自频移量上的方法实现光量化。搭建了全光量化实验平台,实现了 2.74比特的量化精度。利用非线性薛定谔方程模拟脉冲在光纤中产生孤子自频移的过程,仿真实现了 1.7 比特的量化精度。并且设计了单模光纤和高非线性光纤的级联结构压缩频谱,将量化精度提高到5.6比特。