近年来，随着语音数据业务的高速增长以及IP宽带网络技术迅猛发展，光纤通信系统中的密集波分复用(DWDM)技术已从l0Gbps的速率发展到100Gbps。由于光通信系统传输容量和传输距离的增大，信号在光纤链路传输过程中产生的色散、偏振模色散(PMD)以及非线性效应也随之增加，严重影响着光纤传输系统的性能。在光交换领域出现了介于光路交换与光分组交换之间的光突发、光标记交换等过渡形式，通过将电子技术与光子技术的优势相结合，以“电控光”的方式实现交换过程。本论文研究基于当前光交换的背景，在光标记的产生、交换、传输等相关技术方面，进行了相关的理论分析和模拟仿真，主要研究内容如下：首先，研究了一种OFDM/PSK相结合的新型正交调制方案。在光载波上用强度调制器(IM)调制OFDM信号，产生OFDM光标记信号；而相位调制器(PM)正交调制载荷信息，产生PSK光载荷信号，从而实现OFDM标记与PSK载荷的正交调制。强度恒定的PSK信号，可以有效抑制非线性效应，而且OFDM信号能帮助克服色散的影响。理论分析和模拟仿真都证明了该方案的可行性。该方案具有配置简单、频谱效率高、适合长距离传输等特点。其次，将DPSK与脉冲位置调制(Pulse Position Modulation, PPM)格式结合，提出了一种新型DPSK/PPM正交调制光标记方案，以达到解决DPSK/ASK光标记系统中净荷消光比(ER)受限问题的目的。分析系统性能受PPM净荷ER的影响情况，并进行了对比和同速率的DPSK/ASK标记系统；分析了系统经过不同距离传输后，PPM净荷与DPSK标记的BER与接收光功率之间的关系；此外，还讨论了PPM脉冲宽度对消光比和的影响。结果表明DPSK/PPM具有良好的传输性能，并且通过引入PPM调制格式可以明显提高净荷的消光比。最后总结全文的研究工作，并对下一步研究工作做出了明确。