光学薄膜在光通信系统中得到广泛的应用。本文针对光通信系统中的偏振分束膜、半导体光放大器超低剩余反射增透膜、消偏振截止滤光片和固体腔窄带滤光片，从膜系的优化设计、误差分析、监控方案和薄膜制备工艺等方面进行了深入的理论分析和仿真、实验研究。　　本文工作的主要内容与结果如下:　　(1)采用特征矩阵法，计算了多层膜系的光学特性，并推导出偏振分束膜中P偏振光零反射率需要满足的一般公式，克服了Mac Neille公式对膜层材料折射率的限制;　　(2)分析了P偏振光的膜层折射率与有效导纳的关系，提出了有效导纳置换法，通过膜层置换，获得了偏振分光膜的一般公式，理论与实验结果表明:在170nm范围内，获得了消光比达30dB的偏振分光膜;　　(3)提出了高级次过正极值法的膜厚监控技术改进方案，该方案继承了高级次和过正极值法的优点，同时采用挡板调制，有效地提高了膜厚的监控精度，它的监控精度要高于极值法、波长调制法或晶振法的监控精度;采用该方案成功地制备了半导体光放大器的超低剩余反射率增透膜，管芯激射波长约由1610nm移动到1550nm，纹波小于0.2dB，剩余反射率小于4×10-4的带宽，单层膜为35nm，四层膜为60nm。　　(4)对于超低剩余反射率的测量，提出了楔角测量法，有效地消除了器件第二面的影响，提高了测量精度;　　(5)针对消偏振截止滤光片，采用有效界面法，分别推导了P偏振光和S偏振光的中心波长差值、通带半宽差值与间隔层的折射率和相位厚度的函数关系;讨论了中心波长的差值与通带半宽差值的相对关系，分别对应于消偏振长波通截止滤光片、中心波长消偏振滤光片和消偏振短波通截止滤光片。通过调整间隔层的折射率和相位厚度，分别可以实现不同位置的消偏振;　　(6)针对满足消偏振的多组间隔层的折射率和位相厚度值，对膜系进行角度容差分析，获得大角度范围内与角度基本无关的三种消偏振滤光片。实验制备了双腔的消偏振截止滤光片，在0°至45°范围内，截止位置的偏振分离小于1nm;　　(7)提出了固体腔窄带滤光片这一结构形式，对间隔层的厚度误差和固体腔滤光片的温度稳定性进行了分析;单固体腔滤光片的半宽达到了0.3nm;作为可调谐激光器的选频器件，输出激光的3dB带宽达到0.064nm。