自然循环不依赖泵提供动力，利用热流体的浮力驱动流体流动带走热量，在先进核电厂以及船舶核动力装置中获得了广泛的应用。在水冷反应堆中，水的温度和空泡份额的变化既会影响自然循环能力，又会对中子慢化产生影响，从而形成中子-热工-水力之间的多重耦合。自然循环工况下易发生流动不稳定性，在堆外实验或数值模拟中，恒定功率和核热耦合下的自然循环系统稳定性存在一定差异。本文建立了堆芯动力学与热工水力之间的联系，对核热耦合低压自然循环流动不稳定性进行了实验和理论研究。
　　设计和建造了低压自然循环实验台架，在恒定功率下对自然循环系统内存在的流动不稳定性进行了实验研究。恒定功率下的自然循环系统中可能发生两种流动不稳定性：沸腾导致的不稳定性和自然循环导致的不稳定性。根据实验段出口含气率的大小进一步将流动沸腾不稳定性分为过冷沸腾不稳定性(xe,max<0)、饱和沸腾不稳定性(xe,max>0)和间歇干涸不稳定性(xe,max=1)。分别对流动沸腾不稳定性的流动和换热特性、实验段出口流型、周期和振幅进行了分析。此外，对流动沸腾不稳定性的机理进行了解释：过冷沸腾不稳定性是由实验段出口处气泡的生长和冷凝导致，上升段段内闪蒸的影响较小；饱和沸腾不稳定性为压力降型脉动，主要由实验段内的流动沸腾和回路中可压缩容积之间的相互作用产生；间歇干涸不稳定性是由于实验热流密度达到了间歇干涸型临界热流密度，实验段内发生间歇干涸时气泡的剧烈生长推动流体返回实验段入口。自然循环导致的流动不稳定性为过冷沸腾不稳定性、饱和沸腾不稳定性和间歇干涸的叠加，属于自然循环脉动型不稳定性，是由加热段和冷凝器内换热量的不平衡导致的。可压缩容积的存在对流动不稳定性的影响较大，刚性系统下流动不稳定性受到了抑制。最后对流动不稳定性的起始点进行了预测，给出了不同不稳定性之间的边界。
　　基于点堆中子动力学模型对反应堆动力学过程进行了模拟，使用高斯-勒让德型全隐式龙格库塔法(GLFIRK)对点堆方程进行了求解，将GLFIRK算法的计算结果与Ganapol给出的基准题进行对比，验证了GLFIRK算法在正阶跃反应性、负阶跃反应性、线性反应性和锯齿波型反应性等反应性输入条件下的适用性。分别使用一维瞬态导热模型和集中参数模型对燃料棒内的导热过程进行了模拟，建立了核功率与热功率之间的联系。选取适当的燃料时间常数，两种方法得到的计算结果完全一致。在此基础上，使用Saha-Zuber关系式对加热通道内的空泡份额进行了预测，建立了考虑燃料温度效应和空泡效应的核热耦合算法，并对该算法的适用性进行了分析。
　　为了分析核热耦合对低压自然循环系统稳定性的影响，首先对功率正弦波动下的自然循环流动不稳定性进行了实验研究。参照功率正弦波动对自然循环流动不稳定性的影响，分析了核热耦合下功率的波动特征。对不同反馈系数和燃料时间常数下的功率波动特征和自然循环系统稳定性进行了实验研究，实验结果表明当反馈系数(绝对值)较小时，核热耦合对自然循环系统稳定性不能产生显著的影响；当反馈系数(绝对值)增加至一定值后，自然循环流动由稳定状态向不稳定性转变。燃料温度系数(绝对值)越大，系统越不稳定；空泡系数(绝对值)越大，系统越不稳定；燃料时间常数越大，系统越稳定。
　　基于四方程漂移流模型对加热通道内一维两相流动进行了模拟，考虑了过冷沸腾、流型变化和氮气式稳压器内的动力学过程。以自然循环实验台架为模拟对象，使用MATLAB编写了核热耦合自然循环回路仿真程序，并用Bartolomei的过冷沸腾实验数据对数值仿真程序进行了验证。使用数值仿真程序对恒定功率和核热耦合自然循环系统的稳定性进行了理论研究，数值求解程序能对恒定功率下的自然循环稳定性边界进行较好的预测，数值仿真程序关于核热耦合自然循环系统稳定性的计算结果与实验结果一致。