当前观测到的系外多行星系统已经达到近六百个。天文学家发现系外行星以及系外行星系统的轨道构型和太阳系有很大的不同。系外行星系统有紧密排列的超级地球系统,有处于共振链的巨星系统,还有存在于双星或三星系统中的行星。而对经典的核吸积模型提出了最初挑战的是热木星系统,因为在非常靠近主星的位置,难以存在足够多的固体和气体物质当地形成热木星。目前,观测到热木星大部分是孤独的,没有大质量的伴行星,然而由于观测方法的局限和观测精度的限制,不排除有未观测到的较远处的伴行星。行星在气体盘潮汐粘滞作用是生成于雪线外气巨星向内迁移的影响因素之一,而大偏心率迁移机制也是形成热木星的重要途径之一。在经典的核吸积模型中,行星吸积固体物质雪崩增长,气巨星快速吸积气体或气体盘消散过程中,由于行星间距的快速减小和气体盘的阻尼力的减弱使原本稳定的多行星(胚胎)系统很可能会发生动力学散射。散射后行星(胚胎)的偏心率和轨道倾角被激发,可能会影响原行星的生长,或触发多行星系统之间的动力学机制,使内侧行星通过大偏心率迁移机制形成热木星。因此,动力学不稳定过程对行星的最终形成和行星系统的轨道构型具有重要的影响。本文主要关注于多行星系统(胚胎)的动力学不稳定时标以及在此过程中不同的大偏心率迁移机制形成热木星的效率。第一章陈述了经典核吸积模型中行星形成的若干问题。重点描述了通用气体盘和固体盘模型,气体在气体盘中的运动速度,固体在气体盘中受到的阻尼力,星子或行星胚胎间的碰撞,行星在气体盘中的迁移等问题。第二章总结了目前多行星系统中出现的多种大偏心率迁移机制。从三体哈密顿函数出发,采用勒让德函数展开到四极矩和八极矩项,在使用德洛内正则根数表达的基础上用von Ziepel变换对两颗行星的短周期项进行平均,从而得到内外侧行星的运动方程。进而陈述了内限制三体问题(Kozai-Lidov机制),外限制三体问题,平面大偏心率迁移机制(近点连线共振),另外介绍了多行星系统中的长期混沌和角动量缺失的定义。第三章中我们采用降低多行星系统的自由度的EMS系统(等质量,等间距)来模拟多行星系统(星子群)的失稳过程。首先,对2-5个折合质量在μ = 10-2～10-9范围的多行星系统,数值模拟计算出在约1010yr内稳定的临界行星间距。其次模拟得到初始轨道倾角对折合质量范围μ = 10-2～10-9的多行星系统失稳时标的影响,并给出一定适用范围的经验公式。最后,考虑星子之间的吸积,重新计算了星子群平均轨道倾角随时间的增长速率,以及达到平衡状态时偏心率和轨道倾角满足的关系。第四章重点研究多行星系统中热木星的形成。在多行星系统中,热木星可以通过大偏心率迁移来形成。而这些大偏心率迁移的机制对行星的初始偏心率,轨道倾角或伴星,残余盘等有较高要求。而在核吸积模型中,相邻气巨星在快速吸积气体过程中,散射很自然会发生,而散射后行星的偏心率和轨道倾角能够达到触发多种动力学机制的条件。因此我们从多气巨星系统的散射出发,对散射后的行星系统进行统计分类。这样我们就能清楚的得到每个大偏心率迁移机制在热木星形成中起到的作用,同时更进一步,进行大量的数值模拟,统计出初始行星个数,间隔对热木星形成效率的影响,以及逆行行星的比例和热木星伴行星的轨道特征。值得注意的是,我们发现了两种能够形成高倾角热木星的动力学机制。第五章研究了一个有争议也很有趣的多星系统(99Her)。99Her曾经有两次被观测到有第三颗恒星,然而之后的两次观测却没有发现它的踪影。Herschel的重点项目DEBRIS观测到了这个多星系统存在一个残余盘,根据动力学稳定分析,研究发现这个残余盘很可能是处于围绕双星的极轨运动中。我们基于此,首先假设有处于极轨的气体盘存在,并放入30000个星子,用多种碰撞结果来统计星子的吸积效率。我们同时模拟出双星平面盘以及单恒星平面盘中星子的吸积效率来进行比对,发现双星极盘中星子的吸积概率最高,达70%,而双星共面盘和单星共面盘中分别是67%和68%。因此,如果环双星极盘中有足够多的物质,是能够形成行星的。第六章对之前的工作进行总结和展望。