近年来高清电视、视频点播和移动宽带业务的快速发展，对光纤通信网络的带宽和容量提出了更高更迫切的需求，进而促使密集波分复用技术发展迅猛。DWDM技术的不断发展使得光纤的非线性效应对其传输性能的影响越来越大，尤其是四波混频效应越来越显著。考虑到多种影响因素，得到四波混频噪声标准差的较为精确、高效评估算法，对优化设计DWDM系统具有重要意义。非线性薛定谔方程（NLSE）是研究光脉冲在光纤中传输的重要方程。但由于NLSE的复杂性，通常情况下难以求得解析解，需要借助数值计算的方法对其进行研究，其中分步傅里叶算法是最常用的一种算法。在传统的固定步长算法中，为获得较高的计算精度常常需要较小的步长，但这不利于提高算法的效率。而在四波混频功率估算的过程中，不恰当的步长选择可能会引起伪四波混频串扰现象。本文讨论了几种步长选择方案，并选择其中的动态分步傅里叶算法进行了较为详细的研究。考虑到色散与信道内的几种非线性效应的影响，本文利用动态分步傅里叶算法先行得到单信道内的脉冲传输规律。在此基础上，考虑到这种脉冲形状随距离的变化，精确求解决定四波混频效率大小的重叠函数，进而得到四波混频效率的精确解。本文为精确求解四波混频噪声标准差提供了一种有效的思路。本文的创新工作主要如下：（1）提出了一种新的四波混频效率的理论模型，相对于传统的理论模型，主要考虑到了信道间脉冲走离效应、比特序列的随机性，特别是考虑到了由于色散和非线性效应所导致的脉冲形状及附加相位变化对四波混频效率的影响。（2）利用该模型，首先分析了当入射脉冲为啁啾高斯脉冲和超高斯脉冲时，简并四波混频效率与系统参数之间的一些关系。四波混频效率大小和脉冲在传输过程中由于色散和非线性效应所导致的变化有一定的关联，当群速度色散系数绝对值相对较小、信道间隔相对较小、入射脉冲峰值功率相对较大时，尤其不能忽略其对四波混频效率的影响。40Gb/s和10Gb/s系统相比较，在某些系统条件下，40Gb/s的四波混频效率有相对较大的取值。啁啾系数为正，取值较大，且当传输速率相对较高时，特别不能忽略由于色散和非线性效应所导致的脉冲随传输距离的变化对四波混频效率的影响。（3）利用该模型，讨论了当入射脉冲为新型强度调制格式信号的情况，并进行了比较，得到了以下结论：一般而言，同等条件下，占空比越大的信号调制格式，所得到的四波混频效率越大。计算结果还表明：信号调制格式的频谱宽度越窄，抗色散性能越强，但是抗四波混频效应能力相对越弱。