光纤通信网络是现代通信网络的重要组成部分，仅通过对标准光纤的物理改善并不能完全满足对光纤通信网络的容量、速率的巨大需求。为了实现传统光网络到未来光网络的衔接过渡以满足通信流量的需求，众多灵活弹性的光信号调制生成技术与网络结构概念相继提出。本论文就光发射机驱动信号振幅自动反馈控制、混合调制格式光发射机装置以及误差向量幅度方法监测光网络的性能作为主要研究内容。本论文对光通信系统基本结构进行了简要的回顾。通过传统的强度调制/直接检测引出高阶调制格式与相干检测技术，简要介绍高阶调制的基本原理以及相关理论与公式，相干接收方法及公式推导。总结相干接收后数字信号处理的几个关键步骤。介绍了光网络的性能监控的主要参数及基本监测手段，引出控制相位调制器的重要性与传统误差向量幅度计算方法在含有码间串扰情况下对光信噪比与误码率估计的局限性。本论文提出了利用异步采样构建直方图方式对级联相位调制器进行驱动信号振幅自动反馈控制方法。采用非抖动控制信号相比抖动控制信号控制调制器方法更加稳定，级联相位调制器的控制独立性及控制模块非理性特性不敏感减轻了控制模块实现的难度。面对传输链路长度、信道环境、速率容量需求均不相同的复杂光网络，提出了混合光调制发射机装置。该发射机通过软件配置的方式控制发射机的五个数据端口，实现时域多种调制码型混合传输，提高光网络带宽效率。对于光网络信号性能的监测，本论文提出了包含窄带宽滤波情形的误差向量幅度算法。随着光器件的种类和数目的增加，光网络变得愈发多样和复杂，由此带来的滤波累积使得码间串扰效应也在不断增加，传统的误差向量幅度算法并没有考虑码间串扰的影响，无法准确估计光信噪比和误码率的大小。提出的算法通过对码元前后码元的考虑，优化了误差向量幅度的计算，能够准确估计窄带宽光滤波情况下光信噪比大小；通过码间串扰误差幅度的优化，提高对误码率估计的准确性。