本论文阐述了KTX反场箍缩装置中磁流体不稳定的反馈控制系统的物理设计与对m=1撕裂模与电阻壁模进行反馈控制的优化研究。中国科学技术大学在建的KTX装置是国内第一个大型反场箍缩实验装置,肩负着探索先进反场箍缩(RFP)装置理念的使命。反场箍缩位形中同时存在多种不稳定模式,其中电阻壁模限制了放电时间和等离子体电流的提升,撕裂模可能带来“锁模”现象,引起严重的等离子体-壁相互作用,甚至可能导致放电的提前终止。为了拉长放电时间,提供约束表现,必须同时对撕裂模和电阻壁模进行反馈控制。首先,完成了KTX反馈控制系统的物理设计。反馈控制系统由传感器阵列、执行机构和数字PID控制器三部分组成。根据需要控制目标模式数,设计出来的传感器阵列由4x48个鞍形传感器和位于其中心的磁探针构成。执行机构是覆盖整个表面的4x24个主动鞍形线圈,每一线圈由功放独立供电。数字PID控制器是控制系统的核心,控制循环周期为200μs。在实践中,KTX反馈控制系统可以工作在“智能壳”和“模式控制”方案下,反场箍缩中最先进的“清洁模式控制”的方法也将被应用。借助KTX丰富的磁探针信号,可以利用扰动磁场的极向或环向分量进行反馈,从实验上探索更高效的控制方法。其次,建立了一个应用于KTX反场箍缩装置几何和参数的磁流体力学模型,将扰动处理为本征函数为Newcomb方程的解的形式,结合考虑了粘滞力矩和电磁力矩的平衡条件的流体运动方程组,再加上反馈率,得到一个完整的动态演化模型,边带的影响在原始模式控制方案中被考虑。该模型可以在给定撕裂模幅度情况下,演化出模式的相位及旋转速度、扰动磁场剖面,以及所需的反馈电流等。对电阻壁模的处理与撕裂模类似,区别是不存在有理面和仅在有理面处非零的电磁力矩。基于该模型,使用fortan90语言编写了代码KTX-FC。该代码可方便地应用于不同的反场箍缩磁位形下,只需调整几何和相关参数。再次,数值研究了KTX中撕裂模和电阻壁模的反馈控制。发现KTX中主要撕裂模的锁模阈值在1mT水平,对其反馈控制必不可少；对铜壳,优化厚度为1.5mm；首次在数值上发现了真空室外的径向场传感器表现出不同于极向和环向场传感器的反馈规律；在原始模式控制方案下,欲使用径向场传感器反馈控制需要更多的传感器数目,并且需要传感器在真空室以内。发现电阻壁模的不稳定模式谱和平衡参数密切相关；反馈控制不仅可以实现电阻壁模的稳定,使用复数增益还可以带来模式的旋转；实践中的延迟越小越有利于获得良好的反馈,根据对离散时间控制的研究,要求控制器的反馈频率为5kHz；清洁模式控制控制对撕裂模和电阻壁模的反馈控制都更有效率。