基于束缚态电子的传统激光器受跃迁能级的影响,目前很难产生X射线波段的激光,而基于自由电子穿过周期性波荡器产生的自由电子激光（FEL）不受此限制。因此,自1976年以来,自由电子激光的概念提出以来,FEL得到了飞速的发展,到2009年,世界第一台硬X射线自由电子激光装置LCLS建成,标志着自由电子激光技术已经从发展到成熟。鉴于X射线自由电子激光将来在科学与技术中的广泛应用,各国正在加紧建设XFEL装置。由于目前,XFEL装置大多工作在高增益SASE模式,但是该模式依然存在一定的问题,值得进一步的深入的研究。因为SASE-FEL起源于电子束的局域噪声,导致最后输出的辐射脉冲中包含很多纵模,即光谱中有许多毛刺,造成光谱亮度下降。为了提高XFEL辐射脉冲的光谱亮度以及相干性,科学家进行了广泛的探索与研究,提出了多种方案。例如:基于外种子激光的高增益高次谐波方案（HGHG）和回声谐波放大方案（EEHG）;基于光学的办法,即通过晶体单色器过滤自身的光谱,选出单色X光放大的方案（self-seeding）;基于FEL中电子束与辐射脉冲间的滑移效应,提出的高亮度SASE方案（HB-SASE）等等。本论文研究的问题就是针对目前高增益XFEL中存在的问题展开的,即如何提高高增益XFEL的光谱亮度以及其相干性,使XFEL有着更广泛的适用范围。由于基于外种子激光方案的HGHG,受电子束能散的限制,单级谐波转换次数不高（大约在15次左右）,很难产生短波长的辐射脉冲。而EEHG可以产生高次谐波,我们研究使用单级EEHG产生150次的谐波辐射,着重研究了150次谐波的高阶模式,以及非相干辐射（ISR）、相干辐射（CSR）和电子束内散射（IBS）对EEHG-FEL群聚因子的影响,通过数值模拟验证,获得了1.77nm的高亮度、全相干的软X射线FEL脉冲输出,为将来的超高次EEHG实验做出指导。此外,为了克服单级HGHG谐波转换次数较低,以及级联HGHG输出脉冲稳定性的问题,获得高亮度、全相干、短脉冲的水窗波段FEL,我们提出了新的FEL运行模式HB-HGHG,该方案首先使用相干辐射（CHG）产生高次谐波相干信号,然后通过新鲜束团技术,将辐射脉冲滑移放大,最后获得的高亮度、全相干、短脉冲水窗波段的FEL的功率可以比级联HGHG或者EEHG高一个数量级。由于目前产生XFEL的电子束能量较高,造价昂贵,为了降低电子束的能量,同时保证软X射线FEL的功率不减。提出了基于外种子激光的谐波运行模式CHG-HL来降低电子束的能量。该方案首先使用CHG产生短波长、全相干的高次谐波信号,然后该信号作为共振在第二级波荡器的谐波上,通过新鲜束团技术滑移放大,我们研究了0.84GeV的电子束,使用CHG产生90次谐波,最终获得了功率为1.2GW,波长为3nm的高亮度、全相干软X射线脉冲输出。我国即将建设超导高重复频率的硬X射线FEL装置（SCLF）,但对于超导高重复频率的硬X射线自由电子激光,目前还没有合适的方案能够产生高重复频率、高亮度、全相干的硬X射线FEL。这是因为目前的self-seeding方案,由于晶体热负载等效应的影响,只能工作在低重复频率的模式,且辐射脉冲功率的抖动性较大。为了充分挖掘超导高重复频率XFEL的潜能,我们研究了HB-SASE的方案,该方案可以工作在高重复频率模式,但其中的延时装置会引入过大的色散,破坏电子束的群聚,影响XFEL的饱和,我们提出了新的逆序滑移的序列,更好的维持了电子束的群聚,使得HB-SASE能够在更短的距离内达到饱和,同时研究了新的磁压缩延时结构。此外,目前用于泵浦-探测实验的高亮度双色硬X射线脉冲在许多前沿的科学研究中变得越来越重要,我们基于欧洲自由电子激光装置（European XFEL）,结合双色脉冲延时装置（SDL）用来调节双色脉冲的时间间隔,提出了四种时间可调的产生高亮度双色硬X射线FEL的方案。其中,使用硬X射线self-seeding的方案（HXRSS）结合可以两个方向同时旋转的晶体,可以获得双色脉冲中包含的光子数超过10¹¹,使用新鲜束团技术可以获得双色脉冲间的硬X射线光子能量差达到1000eV,这些都为开展基于双色硬X射线脉冲的前沿科学问题研究提供了性能优异的工具。XFEL理论与实验的不断发展,将会为科学与技术带来不可估量的影响。