模数转换器(Analog-to-Digital Converter,ADC)是将随时间连续变化的模拟信号转换为时间上离散化的数字信号的重要器件,在现代无线通信系统、雷达探测系统等民用和军用领域中有着非常重要的应用。电子模数转换器由于半导体载流子迁移率存在物理极限、采样时间抖动和电子比较器不确定性的影响,无法满足数字化系统越来越高的应用需求。光采样电量化型模数转换器充分结合了光学采样的高采样速率、低时间抖动和电子模数转换器的高量化精度的优点,实现对高频信号的实时模数转换和较高的有效位数。本论文以基于光学非线性传输线的模数转换技术为研究对象,对其相关基本概念和基本原理进行了研究,并提出了一种基于光学非线性传输线的模数转换系统方案,重点研究了包括系统整体方案设计、系统方案的理论分析与数值仿真和搭建系统平台进行实验,以及系统性能分析等工作内容。本论文的主要研究内容如下:(1)介绍了光学模数转换器的研究进展、基本概念和基本原理,其中重点介绍了光采样电量化模数转换技术的研究意义。重点研究了光采样电量化型模数转换技术的基本原理和性能参数、无谐振腔型超短光脉冲源的基本理论和基于光学非线性传输线的模数转换关键技术。(2)提出了一种基于光学非线性传输线的模数转换系统方案,该方案利用光学非线性传输线中的啁啾产生和啁啾补偿过程实现无谐振腔式的高重频低时间抖动超短光脉冲序列的产生,并结合宽带电光调制技术和光时分解复用技术,实现宽带微波信号的高速光采样,再通过多通道数据重组技术和数字域均衡与线性化处理技术,实现宽带、高速和高精度的光学模数转换。(3)对基于光学非线性传输线的模数转换系统方案进行了数值仿真,理论证明该方案的可行性,并对相关参数进行优化处理。在理论推导和数值仿真的基础下,对该方案进行实验验证,实现了采样速率为8 GS/s,有效位数4 bits的模数转换。