光纤拉曼放大器(FRA)以其独具的低噪声、宽频带、工作波段可调的优异特性而成为下一代高速、大容量、长距离DWDM光纤通信网络的关键技术之一。本论文紧密结合国家863计划项目的实施和《××ד十五”××××研制计划》项目的可行性论证。 鉴于FRA的光放大机制基于传输光纤中非线性光学效应的特殊性，论文从系统整体运行的视角，以物理层面的分析结合器件设计的优化，对使用后向泵浦分布式FRA(B-DFRA)的光纤传输系统中的若干关键技术问题进行理论与实验研究。 系统分析光纤拉曼增益谱的成形规律，针对工程应用设计80nm带宽B-DFRA，四波长泵浦的增益谱起伏＜1.6dB；实验证实一种高功率、谱型可调的宽连续谱激光器(FSCL)及其用于超平坦宽带光纤拉曼放大的可行性，双波长泵浦200mW输出的FSCL实现0.2dB起伏的增益带宽39nm。 根据泵浦饱和和附加拉曼倾斜划分B-DFRA的三种工作状态，并给出相应的简化分析方法；利用微扰方法确定泵浦功率变化与增益谱变化的线性关系，提出B-DFRA增益或功率谱动态均衡的矩阵算法，实验实现大于10dB的平坦增益谱动态调整范围。 从实际B-DFRA使用条件出发提出ASRS噪声和DRB噪声的简化分析方法，给出单波长泵浦B-DFRA非饱和情况下ASRS噪声的解析解和DRB噪声的半解析解，指出存在一个使传输系统等效接收机灵敏度最佳的泵浦功率优化值。结合工程项目要求，探索一种结构简单的遥泵EDFA级联B-DFRA预放接收终端方案；理论和实验研究影响无中继系统接收终端性能的因素，指出ASRS不收敛和DRB噪声是终端接收灵敏度的最终限制；完成250km和350km无中继传输的实验论证，提出400km系统的设计方案。 提出在含B-DFRA的DWDM系统中实现光放大/光学非线性/色散综合管理中继OAU的新构思；分析两种B-DFRA+EDFA混合放大OAU的噪声特性和附加的光学非线性影响，给出设计和使用原则；完成80～160×10Gb/s×3000km传输环路系统中混合放大OAU的结构参量设计和实验论证。