光与原子相互作用是量子光学和原子物理学领域的主要研究内容。通过电磁场实现的原子间相互作用可被广泛用于基础科研和实际应用等各个领域中。这些应用的实现得益于实验系统所具备的几大特性,主要包括光与原子的大耦合效率、原子系综的俘获与操控和电磁场的本征化与操控三方面。光波导为实现这些系统特性提供了一个合适的平台,而光学纳米光纤则是光波导方案中一个极佳的选择。纳米光纤是指由标准单模光纤拉锥到具有厘米级长度,亚微米级直径的锥形光纤。通过纳米光纤,电磁场被强束缚到光纤表面附近形成衰逝场,提高了光与原子耦合率,原子间的相互作用通过波导光得以实现,同时原子也能通过衰逝场被俘获到纳米光纤表面附近。光与原子相互作用过程中,纳米光纤波导光的相位和偏振稳定性对最终测量具有重要影响,因此对纳米光纤热噪声特性的研究尤为重要,光纤表面强束缚的衰逝场则为光机械耦合效应的研究提供了一个理想平台。我们知道线偏振光穿过双折射物体时能够对其产生扭转力,其原理蕴藏在麦克斯韦方程中,被Poynting揭示并随后在实验上被Beth和Holbourn证明,此效应在当代光机械耦合的应用中处于核心地位。一个里程碑式的应用实例是利用光与物体间的动量转移减小了运动物体的机械抖动,也可以称为光机械冷却。本文研究主要集中在纳米光纤的冷原子俘获、相干及纳米光纤本身热噪声的冷却方面,主要研究内容如下:一、阐述了纳米光纤的拉制原理,在锥区绝热条件和波导模式的条件限制下,对纳米光纤结构进行了设计。利用搭建的光纤拉锥系统,通过火焰刷技术成功拉制出直径500nm、腰区长5mm的纳米光纤,99.5%的透过率使其在超高真空环境下能够承受高于30mW的光功率而不致损坏,为后续实验研究的开展提供了先决条件。二、利用纳米光纤表面紧束缚的衰逝场构建的晶格周期势,可将原子俘获到光晶格中形成一维原子链。本文理论上阐述了纳米光纤光晶格势的形成机制,对实验条件下的晶格俘获势的场分布进行计算,获得了光纤光晶格的势阱深度与位置距离等信息。三、利用水平和竖直方向放置的相机校准磁光阱俘获的铯原子团与纳米光纤的位置使之重合后,利用单光子探测器探测到了俘获原子团的共振吸收信号。在纳米光纤装载冷原子过程中,通过红失谐驻波(1064nm)和偏振相对垂直的蓝失谐行波(780nm)叠加纳米光纤表面van der Waals势后构建纳米光纤光晶格,理论上可装载原子2000个左右。利用Molasses技术进一步冷却原子团温度后关断磁光阱,原子被释放并装载到纳米光纤光晶格中,最终约580个原子被俘获到距光纤表面230nm远的光晶格中形成一维原子链,原子装载寿命达到110±20ms。基于此,我们实验上观测到了纳米光纤俘获原子系综的阶梯型电磁诱导透明现象,电磁诱导透明窗口最大透过率达到40%。此外,还观测到俘获势诱导的非均匀Zeeman展宽和晶格散射效应导致的透明窗口展宽现象,这些研究将有助于下一步纳米光纤俘获原子系综中利用四波混频技术产生偏振纠缠光子对和将来量子光学网络的实现。四、我们首次观测到了扭转光机械系统中的冷却现象,纳米光纤被线偏光驱动,一束弱探测光则用于探测纳米光纤热噪声引起的扭转模式振动,在共振频率接近200kHz,Q因子高于2×10~4的双折射纳米光纤中,扭转模热噪声被冷却。我们同时观测到了多阶扭转模减弱与增强现象,这取决于驱动光的偏振方向,热噪声最低被冷却到原来的二分之一。同时,驱动光的偏振也引起了一阶扭转模赫兹量级的频移。这些效应开启了光波导中对扭转模式振动操控的大门,并可被用于未来介观尺度精密测量系统中的量子特性研究中。五、在光机械系统中,我们还观测到了纳米光纤扭转模受激时频率响应的迟滞现象,即双共振频率响应,预示着更多包括双稳态在内的非线性动力学需要研究。本文中,我们利用描述非线性弹性振动系统的Duffing方程定性解释了纳米光纤扭转模频率响应中迟滞现象的形成。