随着信息化社会的发展,互联网的深化和普及,全球的数据流量业务呈现爆炸式增长,这对现有光网络的处理和承载能力提出更高的要求。当前的WDM(波分复用)系统的传输容量可达几百Gbit/s甚至到Tbit/s级,这要求光网络节点具有高速的信号处理能力。当前光网络,主要在电域上做信号处理。由于电子器件存在“电子瓶颈”,影响了信号的处理速度。光信号处理,无需光-电-光变换,被视为解决电子器件瓶颈问题的关键技术,可大幅度提高网络的处理速度和灵活性。光逻辑门作为光信号处理单元如开关、判决、计算单元等的重要组成部分,是决定光网络发展趋势的核心技术之一。因此,论文主要研究基于HNLF(高非线光纤)的FWM(四波混频)效应的复杂调制格式的光逻辑门运算,本论文的主要创新工作如下:(1)根据现如今的光网络中存在着不同调制格式的背景,提出了基于 QPSK(Quadrature Phase Shift Keying,正交相移键控)和BPSK(Binary Phase Shift Keying,二进制相移键控)的多通道混合调制异或门方案,实现4路混合调制异或门运算,并对其可能存在的应用场景加以说明。仿真结果得到较好的波形图,所有逻辑门信号的转换效率都在-19～-20dB,具有较高的OSNR,实现在性能较高的混合调制逻辑门。(2)针对多功能光信号处理在提高网络的效率和灵活性起着举足轻重的作用,提出了基于QPSK和BPSK信号的多功能光信号处理方案。实现了 1-3路QPSK信号WDM组播功能,它的OSNR功率代价不超过0.8dB。实现了 QPSK信号的波长转换功能、QPSK到BPSK的格式变换功能和混合调制光逻辑门。所有的闲频光信号的转换效率不小于-26dB,OSNR不小于18dB,得到质量较高的闲频光信号。同时,以混合调制光信号逻辑门为基础,为保障网络安全和保密传输为目的,从光加密/解密应用场景出发,提出了基于混合调制格式的双通道光加密/解密方案。(3)基于现有的半加器和半减器的研究结果,提出实现M进制半加器和半减器的一般规律。并且,总结了基于M-PSK信号级联半加器和半减器规律,阐述实现M进制级联运算器实现的一般方法。(4)受混合调制格式逻辑门的启发,用BPSK信号取代了 CW泵浦光,提出了三输入的混合调制格式异或门。发现了新的逻辑关系,仿真结果说明了该方案的实现的可行性。