自由电子激光(Free-electronLaser，FEL)是一种新型的相干同步辐射光源，和目前的第三代同步辐射光源相比，FEL峰值亮度要高十个量级，平均亮度也要高两个量级以上，这为科学家进行前所未有的先进实验，探索未知的研究领域提供了更好的手段，所以X射线自由电子激光被誉为是下一代的同步辐射光源。　　 本论文将围绕新型全相干高增益自由电子激光重点研究以下几个方面的物理问题，包括:　　 1.全相干FEL新原理的理论和实验研究，主要为基于回声效应的EEHG-FEL的调制和受激放大的研究工作;　　 2.波长任意可调的新型全相干FEL光源的物理设计，主要开展大连极紫外相干光源的初步物理设计;　　 3.特定FEL光源性能的控制研究，主要为全相干偏振态可控的FEL方案研究;　　 4.更新一代的全光学相干光源的物理研究，主要包括能散较大情况下的激光等离子束流和激光波荡器驱动的紧凑型光源的数值研究;　　 5.新原理FEL数值模拟计算方法研究。　　 获得横向和纵向都相干的X射线光源是一直以来人类的梦想，目前研究纵向相干的短波长FEL是一个重要方向，其中EEHG是最有可能以比较简单的装置结构实现全相干X射线FEL的原理。本文从数值模拟计算的角度给出低次EEHG原理性验证的实验证据，以及对在上海深紫外自由电子激光装置(ShanghaiDeepUltra-violetFree-electronLaser，SDUV-FEL)上进行高次EEHG的方案进行了全面的分析，通过比较使用同色和异色种子激光，给出了两种方案，并且研究了相干同步辐射(CoherentSynchrotronRadiation，CSR)对EEHG辐射性能的影响，计算表明在SDUV-FEL上可以进行10次谐波转换的EEHG受激放大实验，而CSR仅会稍微改变FEL辐射的中心频率，对辐射功率等影响很小。　　 高亮度的极紫外波段光源一直以来是实验物理研究的理想工具，尤其是在高效率的自由基光电离实验中。我们提出了基于高次谐波产生放大自由电子激光和光学参量放大激光技术的波长可任意调谐的高亮度全相干极紫外相干光源—大连相干光源(DalianCoherentLightSource，DCLS)，包括基本的物理设计和数值模拟，结果表明DCLS可在50-150nm波段间提供脉冲能量超过100μJ，脉冲光子数可达1013量级的高性能全相干FEL辐射，为开辟新的研究领域提供了条件。　　 光源的偏振性能是一项重要的光学性质，对于研究手性化学特性等至关重要。由于FEL的一系列优异性能，如宽范围的波长调谐性（从远红外到硬X射线），极高的亮度，优异的相干性和稳定的中心波长等，偏振性能可控的FEL越来越受到科学家的关注，这方面特性的研究是FEL领域内比较新颖的课题。本文对偏振度可控的FEL给出了完整的方案设计与数值计算，提出在SDUV-FEL上进行国际首次高增益FEL领域内进行交叉波荡器偏振控制的实验探索方案;并且通过自行开发的FEL数值计算程序，比较系统地研究了交叉型平面波荡器和椭圆极化波荡器两种偏振控制方案在DCLS上的应用潜力，为今后实现偏振度可控的任意调谐全相干自由电子激光光源提供理论上的积累。　　 具有横向梯度的波荡器(TransverseGradientUndulator，TGU)最早被用作降低波荡器辐射对束流能散的敏感性，而在激光等离子束加速器驱动(LaserPlasmaAccelerator，LPA)的高增益FEL中，束流的能散往往较大，使用TGU可以有效地提高FEL的效率。本文在TGU原理的基础上，通过修改FEL模拟程序—GEN(E)SIS的源代码来研究TGU在LPA驱动的FEL中应用潜力，结果表明利用数米长的TGU，0.5-2GeV，1％能散的LPA电子束流，可获得极紫外至X射线波段的强相干辐射。在桌面紧凑型X射线光源方面，我们提出了利用激光波荡器固有的横向梯度(TransverseGradientLaserUndulator，TGLU)来补偿全光学紧凑型X射线光源的思想，并给出了理论和数值模拟分析。这些研究对于发展小型化的全光学相干光源具有重要意义。　　 最后本文总结归纳了一般性的自由电子激光以及束流动力学模拟的解决方案，利用全新开发的高效程序来拓展FEL数值模拟的应用范围等。