近年来,光信息技术得到了高速发展,激光通讯、遥感和雷达等激光空间信息技术也越来越受到人们的重视。但是由于激光在自由空间中传输时不仅会遭受太阳光等宽带背景辐射,还会受到大气、海水等色散介质的影响,使得这些光学系统的信噪比往往比较差,进而降低了系统的灵敏度,使之不能很好的工作,而提高系统的信噪比和灵敏度的重要途径之一就是在系统接收端前使用超窄带光学滤波器。而已有的研究表明原子光学滤波器具有高透射、窄带宽的特点,因此获得了广泛的应用。本论文首先介绍了各种原子光学滤波器的研究进展,分析了其研究现状,在此基础上对基于激光感生圆二色性及双折射的原子光学滤波器进行了理论和实验研究,主要内容包含以下几个方面:首先,分析了两能级原子系统中采用圆偏振光的光学泵浦动力学过程,理论计算表明,在稳态下粒子数主要布居在几个特定的磁子能级上,为基于激光感生圆二色性和双折射的原子光学滤波器提供了理论依据。然后,为了说明滤波机制,对铷线两能级原子系统中的滤波特性进行了实验研究,在实验中观察到了对应于三个不同超精细能级跃迁的透射峰,而产生这些透射峰的激光感生圆二色性的形成机制是不同的。其次,以铷-87原子系统中对激发态775.9 nm滤波特性为例,分析了这种基于激光感生圆二色性和双折射的滤波器的工作原理。然后通过在稳态下求解密度矩阵方程的方法,得出系统的极化率以及滤波器的各个特征参数,并推广到多普勒加宽的气体原子中,从而建立完整的滤波器模型,并进行了数值模拟计算。通过对计算结果的分析,提出一种利用强泵浦下原子能级的分裂来实现滤波器透射峰大范围调谐的方案。实验上分别对同向和逆向泵浦下的滤波器进行了研究,实验结果和理论符合的很好,验证了理论模型的正确性。再次,提出了一种采用非相干泵浦辅助的基于原子蒸汽中激光感生圆二色性和双折射滤波器的理论模型,并进行了数值模拟分析。非相干泵浦的存在能改变介质对探测光的吸收和色散属性,通过选择合适的参数,能增大滤波器的透过率,甚至对探测光有放大作用。最后,提出了一个四能级原子系统中双重选择圆偏振光泵浦的滤波器理论模型。通过双重选择的圆偏振光泵浦,使粒子在激发态特定的磁子能级间形成粒子数反转,介质对线偏振探测光的其中一个圆偏振分量有放大作用而对另一个分量只有吸收作用,由此产生了圆二色性使得探测光不仅能通过相互正交的格兰-汤姆逊棱镜,还能获得巨大的增益。