近年来高增益自由电子激光(FEL)的主要发展方向是产生高功率、超短脉冲、高重复频率、全相干的X射线，使得FEL能够在生命、材料、化学、医药、能源、环境等领域能够得到更广泛的应用。自放大自发辐射(SASE)是现有的FEL装置中最常见的运行模式，已经能够稳定的产生高功率、短波长、横向相干的辐射脉冲，但SASE起源于电子噪声，这导致SASE辐射脉冲的纵向相干性较差、辐射脉冲能量抖动较大。为了改善SASE FEL纵向相干性，一系列新型的FEL运行模式被提出，其中外种子谐波放大模式受到了人们广泛的关注，但是受制于谐波转换次数，这些模式目前只能产生波长在4nm以上的相干辐射。自种子(Self-seeding)FEL模式的提出为全相干X射线FEL的产生提供了可行的技术路线，目前已经实验验证了该方案的可行性，但软X射线self-seeding实验结果表明，该运行模式还存在着波长覆盖范围窄和光谱边带较大等一系列问题。我国即将建设的上海硬X射线FEL装置(SHINE)将软X射线self-seeding模式作为基本的运行模式，用于产生覆盖X射线波段的全相干FEL。本论文基于在建的软X射线装置(SXFEL)和SHINE装置进行了软X射线self-seeding物理和设计研究，并提出了一系列新型的运行机制，以解决目前软X射线self-seeding中存在的问题。
　　在新原理研究方面，为解决软X射线self-seeding方案目前存在的问题，本论文提出了一系列创新的运行机制:通过采用反taper波荡器在电子束中产生一个谐波微聚束(bunching)信号，然后通过谐波辐射的方法，来覆盖软X射线和硬X射线self-seeding方案之间的辐射光子能量GAP，通过模拟结果显示，我们所提出的方案能够很好的覆盖该光子能量GAP;通过理论推导和模拟验证了软X射线self-seeding方案中的边带的产生原因。为了解决边带问题，我们提出在波荡器之前加入相位混合器，通过消除电子束中的边带bunching信号，来消除软X射线self-seeding方案中的辐射光谱边带问题。通过建立单频调制、多频调制、start to end三个模型进行模拟，验证了边带产生的原因，并且证实了我们所提出的方法能有效的消除软X射线self-seeding方案中的边带问题;通过将常规self-seeding单色器中的狭缝替换为双遮光板的方式产生多色的尾波信号，作为self-seeding方案中辐射段的种子激光，该种子激光与电子束在第二级波荡器中相互作用下放大最终达到饱和，从而产生多色的FEL辐射脉冲。我们通过纵向傅里叶变换和波动光学传输的方法模拟了尾波产生的过程，辐射过程模拟验证了我们所提出方案的可行性。通过我们提出创新型的运行机制，有望实现大范围可调、纵向结构可控的全相干X射线光源。
　　在物理设计方面，本论文根据SXFEL装置和SHINE装置的需求，给出了整体的方案设计。通过对软X射线self-seeding方案模拟，得出了self-seeding方案的FEL输出结果，并根据模拟结果给出了波荡器的整体布局。基于SHINE电子束参数进行物理模拟，得出不同光子能量下的辐射特性，并对相关的光学和物理参数进行了优化，提出了对光栅单色器系统的设计要求。在光学设计方面，基于SHINE装置给出了光路整体设计。根据光学系统要求，进行了磁压缩段(chicane)系统设计。同时通过对光路特性进行了系统的分析，给出了光学元件参数和光学系统特性。本论文通过物理和光学的模拟与分析，给出了一套完整的物理和光学设计。本设计是我国首个软X射线self-seeding系统设计，该系统可以实现0.4-1.5keV大光子能量范围的覆盖，可以同时满足SXFEL装置和SHINE装置的需求，并考虑了SHINE装置高重频下的设计要求。