与相干正交频分复用(CO-OFDM)系统相比，奈奎斯特脉冲成型(Nyquistpulse shaping)的数字相干光通信系统有着相似的频谱利用效率，更好的非线性容限和更高的相位噪声容忍度，已经成为高速光通信领域的重要发展方向。对于长距离传输，光纤非线性损伤是限制系统容量和传输距离的主要因素，发展针对T比特超级信道传输系统的非线性补偿算法具有重要意义。传输技术的变化会影响未来光网络的发展，奈奎斯特超级信道可以用于子波带光交换系统。　　本文基于奈奎斯特超级光信道，通过系统实验研究了非线性均衡和光交换，主要工作如下:　　1.在1.76Tbit/s16QAM偏振复用奈奎斯特超级信道频域均衡传输系统中，成功应用多种信道内信道间的非线性均衡方法，取得单载波系统1.6dB Q值提升，多载波系统0.66dB Q值提升的效果。　　2.提出频域估计时域线性均衡和非线性均衡的联合框架，成功实现T比特32QAM偏振复用奈奎斯特超级光信道的产生和传输。　　3.在奈奎斯特16QAM偏振复用超级光信道中实现灵活配置的上下路功能，EVM代价小于0.5dB。　　4.在奈奎斯特超级光信道中应用多种高阶调制格式实现可变速率光交换功能。演示了WDM系统中T比特超级信道光交换功能。　　5.在8×29Gb/s16QAM偏振复用奈奎斯特超级信道和4×39Gb/s QPSK偏振复用DFT-S-OFDM超级信道间成功完成子波带光交换功能。