相干光场与原子相互作用产生多种原子相干效应,如四波混频(Four Wave Mixing, FWM)、电磁感应透明(Electromagnetically Induced Transparency, EIT)、相干布居捕获(Coherent Population Trapping, CPT)、电磁诱导吸收、纠缠态等,这些效应一直以来都是量子光学研究的热点,也已经在许多工程领域得到应用。随着半导体激光器、抗弛豫镀膜、消除自旋交换弛豫等技术的进步,基于原子相干效应的光学磁强计也受到了广泛的关注,其灵敏度和空间分辨率已经能与超导量子干涉磁强计相媲美,但却不需要低温环境,这是它的一个显著的优势。本论文理论上将围绕铷原子多能级体系的原子相干效应(如四波混频、电磁感应透明、四体纠缠等)展开研究,实践上将围绕相干布居捕获磁强计的设计和制作展开研究。四波混频效应是三个相干的光场作用在原子系统上产生第四个光场的非线性作用过程,是多波混频效应中最为典型的代表之一。电磁感应透明是利用原子相干来控制原子对光的吸收和色散特性的一种现象。这两种现象可以在同一种原子能级结构中产生,而且还可以利用电磁感应透明来研究四波混频效应。文中以87Rb作为研究对象,以四波混频的作用过程方程为基础研究了在多普勒效应作用下,原子系统中四波混频效应输出信号与光场失谐、光场强度和原子系统温度的关系,发现温度升高将导致输出的四波混频信号幅度减小,泵浦光和控制光场强增大将导致信号减小,同时发现不同速率原子可以控制四波混频信号的输出；依据作用过程得到了探测光的透射系数,获得了原子速度为零的吸收谱,发现了电磁感应透明和饱和吸收效应。我们还研究了在多普勒效应作用下,光场场强的改变和温度的不同对输出光谱信号的影响。根据三个光场作用于人三能级系统的相干理论,还搭建了以两个外腔半导体激光器和铷原子气池为主的实验系统,实验验证了电磁感应透明效应和饱和吸收效应的存在。CPT是当相干光场与原子相互作用时,光场的相干性不随时间而演化,各个能级上的原子布居保持不变的现象。文中,主要研究了相干布居捕获效应和基于相干布居捕获效应的磁强计。文中研究了人三能级系统中产生相干布居捕获效应的理论和塞曼效应中的磁场与能级之间的关系,还研究了利用相干布居捕获效应和塞曼效应测磁场的基本原理,分析了探测光的偏振态对CPT结果的影响,发现双色线偏振光能提高信噪比。根据灵敏度理论,文中还提出了提高灵敏度的方法,并给出了原子气池设计的理论依据和参考值。依据CPT测磁场原理,制定了基于CPT磁强计的工作方案,定制了激光器和原子气池,设计了主要的电路、光路和传感器机械结构。在此基础上,测试了垂直腔面发射激光器(Vertical Cavity Surface Emitting Laser, VCSE L)的波长和精细光谱,波长线宽为0.13nm,波长-温度系数0.0538nm/℃,波长-电流系数0.3245nm/mA。实验得到了低频压控振荡器的频率-电压系数为7166.7659Hz/V,还测试了频率调制的特性,87Rb原子的吸收谱和叠加吸收谱。测试结果表明,相干布居捕获信号线宽达到0.64kHz,磁场分辨率优于3nT,与商用磁强计GSM-19测量结果相吻合。最后,还研究了五能级原子的四体纠缠和在磁场测量中应用的可能性。文中以铷87的K型原子结构为模型,建立了注入原子相干的初始原子布居,通过产生纠缠条件的判据分析了四体纠缠的存在和控制参数的取值范围,讨论了热光数对纠缠的破坏作用,并且依据K型原子的能级结构特点和相干布居捕获,分析了利用这种能级结构的光学磁强计的优点,并提出了实现这一功能的展望。