里德堡原子（Rydberg atom）是指最外层价电子跃迁到主量子数n较高量子态的一类原子。这种原子不仅半径与电偶极矩大、寿命长,而且其强相互作用导致的原子间显著的偶极阻塞效应,在非线性与量子光学、量子计算与量子信息、量子多体模拟、精密光谱与精密测量等方面拥有重要的应用。电磁诱导透明（Electromagnetically Induced Transparency,简称EIT）效应的提出为共振非线性光学开辟了新的研究方向。里德堡电磁诱导透明（Rydberg-EIT）技术为里德堡原子的研究提供了强有力的手段。在激光冷却的里德堡原子体系中,通过Rydberg-EIT,可将原子-原子之间强相互作用映射到光子-光子之间的强相互作用,得到比传统EIT介质大5个数量级的光克尔（Kerr）非线性极化率。近年来,基于Rydberg-EIT得到的强非局域自聚焦Kerr非线性效应,开展了高维时空光脉冲及其存储与读取等问题的研究,并取得了不少成果。然而,利用Rydberg-EIT也可产生很强的非局域自散焦Kerr非线性,基于此可得到许多新的物理效应,特别是光场的自组织行为。我们知道,无论是在自然界还是在人类社会中,对称破缺和自组织结构的形成是广泛存在且重要的现象。关于里德堡原子气体中光场的自组织结构及其操控的研究,不仅对于里德堡原子的深入探索,而且对于自组织行为的研究具有重要意义。本学位论文的主要研究思路是:首先,构建光场与里德堡原子相互作用的物理模型,推导体系的哈密顿量、麦克斯韦–布洛赫（Maxwell-Bloch,简称MB）方程组、光场包络所满足的非局域非线性方程（或方程组）。其次,研究基于Rydberg-EIT所得到的显著增强的Kerr光学效应。在此基础上,对非线性包络方程平面波态解调制不稳定性（Modulation instablity,简称MI）的问题进行详细分析;利用虚时演化算法数值求解非线性包络方程,得到光场的各类自组织结构及其相变。最后,通过调控体系的物理参数,实现对自组织结构的主动选择与操控,并利用体系非局域的交叉Kerr非线性将自组织结构从一个光场克隆至另一个光场。主要研究结果有:1.微波缀饰的Rydberg–EIT体系中光场的自组织结构。首先,提出梯型四能级微波缀饰的Rydberg-EIT理论方案,基于具有偶极–偶极相互作用的哈密顿量和光场与原子耦合所满足的MB方程组,在超越平均场近似下导出了光场包络所满足的（2+1）维、非局域非线性薛定谔（Nonlocal nonlinear Schr?dinger,简称NNLS）方程。该方程的非线性部分同时具有吸引与排斥相互作用。其次,通过对NNLS方程的MI分析,发现在排斥相互作用占主导地位时,利用微波场可对MI及其相应的光学自组织结构的形成进行主动调控。利用虚时演化算法,数值求解了探测场的演化。通过操控微波场、探测场强度以及其Kerr非线性的非局域度,发现光场的空间分布图案可产生自发对称性破缺,不仅可得到六角形自组织结构,而且可得到两种方形的自组织结构,并从理论上分析了不同自组织结构产生的原因。另外,发现当NNLS方程中的吸引相互作用超过排斥相互作用时,通过MI可得到非局域（2+1）维空间光孤子。该工作为在里德堡原子气体中实现新型的光学自组织结构及其相变研究提供了新思路,其结果有望应用于光学信息处理和传输。2.倒Y型里德堡原子体系中圆偏振光场的自组织结构及其操控。首先,基于倒Y型四能级里德堡原子体系的哈密顿量和MB方程组,在超越平均场近似下导出了圆偏振光场的两偏振分量包络所满足的（2+1）维耦合NNLS方程组。该方程组非线性项同时包含非局域自Kerr非线性与非局域交叉Kerr非线性。其次,研究了交叉Kerr非线性与自Kerr非线性的比值、它们的空间非局域度、以及原子的两个近简并基态的初始布居对体系MI的影响;通过虚时演化算法数值上求解耦合NNLS方程组,得到了许多有趣的光场自组织结构。研究发现当交叉Kerr非线性与自Kerr非线性之比超过某一临界值时,两个偏振分量的光学自组织结构呈现从混合到分离的相变。最后,通过选择合适的系统参数,发现系统支持非局域空间光孤子对和旋涡对。该研究结果有助于获得新颖的光学自组织结构和实现它们的主动操控;基于光学相分离的结果有望用于非线性分光器的设计。3.超冷里德堡–EIT体系中光场自组织结构的主动选择与克隆。首先,在倒Y型四能级里德堡原子体系中,基于超越平均场近似导出了两个探测光场传播所满足的（2+1）维NNLS方程组。在探测场1的强度大于探测场2的强度时,探测场1和2的包络方程分别只有自Kerr非线性和交叉Kerr非线性项。其次,通过对探测场1的MI分析与数值模拟,发现它的基态只允许六角形自组织结构。为了得到新的光学结构,假设Rydberg-EIT中的控制光场存在各种弱的空间调制,由此使得体系的MI特性发生显著的改变,并得到了六角形、方形与条纹状光学自组织结构。此外,还研究了边界条件对光学自组织行为的影响,证明了通过边界条件也可实现不同光学结构的主动选择。最后,证明了通过交叉Kerr非线性可将自组织结构（包括六角形、方形与条纹状光学图案）从光场1高保真地克隆至光场2。该研究结果有望在全光信息处理和传输中获得实际应用（如无衍射的生物和医学成像等）。本论文所提出的理论模型、研究与计算方法以及得到的若干研究结果有助于加深认识里德堡原子的非线性光学特性,所揭示的光学自组织行为和提出的主动操控方案有助于相关的实验发现;另外,这些研究结果在光学结构设计、光信息处理及传输等方面具有潜在的应用前景。