极弱磁信号（fT量级）探测技术是目前灵敏度需求最高的磁场检测手段,其在脑磁、心磁等生物磁信号探测、地质勘探、基础物理惯性测量、超低场核磁共振等领域具有广泛的应用前景。近年来,随着光电弱信号检测技术和量子操控技术的发展,一种新型超灵敏量子弱磁探测技术-无自旋交换弛豫（SERF）原子磁力计受到广泛关注。相比于传统的超导量子干涉仪（SQUID）传感器,SERF原子磁力计在灵敏度与之相当的前提下,还具有无需液氦工作环境、可小型化以及价格低廉等独特优势。本学位论文以极弱磁探测为主题,自主设计并搭建了基于PI控制的闭环SERF原子磁力计实验平台和小型SERF原子磁力计,并在此基础上开展了高分辨率零场磁共振波谱学、脑磁测量等方面的应用研究,具体内容如下:1.自主搭建了双光束泵浦-探测SERF原子磁力计实验平台,并利用PI闭环控制将磁力计带宽提升至～1.2kHz,与开环相比,带宽提升了近40倍,动态测量范围提升了 10倍,同时在30-750 Hz频率范围内系统灵敏度保持在15 fT/Hz1/2,实现了高带宽、高灵敏度及高动态范围的极弱磁信号探测。2.自主设计并集成闭环小型SERF原子磁力计,该磁力计采用单光束零场共振测量模式,并采用光纤耦合的方式输入泵浦激光,避免激光器带来的干扰,磁力计整体尺寸仅为15.0×22.0×30.0 mm3。通过对磁力计相关参数进行优化,灵敏度在10-400 Hz范围可达22 fT/Hz1/2,带宽可达700 Hz,与开环相比,带宽提升了 3倍。同时基于PI闭环控制,极大的提高了磁场动态测量范围,达到±15 nT,可有效避免剩磁波动导致磁力计输出饱和,为动态脑磁实验奠定基础。3.基于双光束闭环SERF原子磁力计搭建了零场-近零场核磁共振实验平台,主要包括预极化装置、样品输送装置和信号探测装置等。在此基础上,成功实现13C-乙酸和13C-甲醇的零场J耦合谱和近零场J耦合分裂谱的采集,波谱分辨率最高达到0.5 Hz,为物质分析提供一个全新的波谱学视角,并与高场核磁共振波谱形成互补。4.基于自研的小型SERF原子磁力计搭建了单通道穿戴式脑磁图测量系统。通过将磁力计固定在被试不同脑区,成功实现Alpha波光阻断脑磁信号及听觉刺激脑磁信号测量,测量结果与国外商业磁力计相当,对打破国外技术垄断,实现穿戴式脑磁图核心器件国产化具有重要意义。综上,本论文基于SERF理论开展了双光束原子磁力计实验平台及单光束小型原子磁力计的关键技术研究。通过优化PI控制参数实现了磁力计带宽范围的精确控制,同时可根据不同实验需求,确保磁力计在实验所需频段范围内,性能达到最优。在应用层面,基于上述实验平台及小型化原子磁力计分别实现了零场-近零场磁共振高分辨率波谱检测与穿戴式脑磁信号测量,为推动相关学科深层次创新发展提供重要技术支撑。