宽带需求的爆炸式增长迫使光通信网络向着100G甚至更高的传输速率迈进在超大容量光纤传输系统中，探测并确知噪声来源并实现对信号质量的实时监测对保证网络可靠性极为重要光学取样技术通过对信号进行非线性或线性的取样过程可降低探测端电子器件的带宽要求，因此成为观测超高速信号的理想手段本论文主要研究基于光学取样技术的超宽带取样系统，具体研究内容有以下几个方面：1.介绍了以高度非线性光纤作为取样门的异步非线性光学取样系统利用基于软时钟恢复（CR）算法的数字信号处理单元，该系统可用来观测幅度调制（ASK）信号的眼图利用滤波器响应模型深入分析了CR算法的工作原理，并深入讨论了变换函数f(x)，区间长度L，以及FIR滤波器的抽头长度2K+1几个关键参数对CR算法的工作性能的影响2.提出了一种新的可减小异步取样系统时钟漂移对观测结果影响的模式图重构方法，并提出定量观测异步取样系统中信号源与取样源之间相对时钟漂移的方法此外，运用异步非线性取样系统分别对13.375Gb/s,26.5Gb/s,53.5Gb/s,107Gb/s RZ-OOK信号进行了取样实验研究并得到各信号的眼图，模式图以及系统相对时钟漂移3.搭建了基于共轭混合光波导（QOH）的异步线性光学取样系统该系统以软时钟恢复算法和相位测量算法作为数字信号处理单元既可以实现对幅度信号眼图的观测，更重要的是可以实现对相位调制幅度信号星座图的观测4.利用搭建的异步线性光学取样系统，实现了40Gb/s NRZ-OOK信号和160Gb/s RZ-OOK信号的取样实验，并分别获得了信号的眼图，模式图，以及系统存在的相对时钟漂移曲线此外，还完成了对10Gb/s RZ-DPSK信号，80Gb/sRZ-DPSK信号，160Gb/s RZ-DPSK信号以及40Gb/s NRZ-DPSK信号的取样实验并得到了信号的星座图