三体问题(N体问题)是天体力学中最重要的力学模型之一，已有三百多年的研究历史，但至今未能最后解决，仍然是活跃的前沿课题之一。太阳系外行星系统是N体问题的一个特例。1995年Mayor&Queloz发现第一颗主序恒星地外行星存在的证据。太阳系外行星系统动力学研究行星系统的动力学起源、演化和它的空间构型的稳定性。本文主要是对刚发现不久系统HD 1266l的构型稳定性进行了分析，并得到了如下结果： 1、针对对于系统目前所处构型的不同说法，如6：1、11：2和5：1等，我们采用系统中内外行星轨道的真实半长径，找到了一条5：1的共振轨道，在原恒星盘作用在外行星上的力矩大小为-2×10<-6>AU<2>/yr作用下，系统在3×10<4>年的尺度内是稳定的。 2、将内行星的半长径取真实值、外行星的半长径取为内行星的2倍的非真实系统，当内外行星的偏心率都取为0.01时，我们找到了11：4、5：2和2：1共振轨道，在有力矩作用下，行星在迁移过程中有如下特征： (1) 半长径的演化在进入共振区前后定性结论明显不同：进入共振俘获前，由于力矩是加在外行星上的，所以，主要是外行星向内迁移，内行星的半长径基本不变，进入共振俘获后，内外行星一起向内迁移，线性拟合的数值结果显示两者的迁移速度有很大差别。 (2) 在演化过程中，行星的偏心率有激发现象，尽管不规则，在整体趋势上，内外行星的偏心率都增大。 (3) 进入较稳定共振前要经历不同的共振区：系统演化中进入较稳定的低阶共振俘获前，往往要先进入不太稳定的较高阶的共振，例如，一条进入5：2稳定共振的轨道就曾短期的11：4共振区停留。 (4) 对于最后进入稳定的共振俘获的轨道，迁移的速率和作用在系统上的力矩大致成正比。2：1共振是非常稳定的轨道，作用在外行星上的力矩为-2×10<-6>AU<2>/yr时，它在该共振区停留的时间可达70万年，最后因内行星与中心天体近碰撞才认为共振结束；增大作用在外行星上的力矩到原来的8倍，则系统进入2：1共振俘获的时间以及跳出该共振的时间都大致是原来的1/8。 3、采用圆形限制性三体模型，计算出系统的几个常见的低阶共振带1：2、1：3、2：3、3：4和3：5的在外行星的取不同偏心率时的共振带的最大宽度，并与行星迁移中被这些共振带俘获的概率相比，发现低阶轨道俘获的概率未必大，共振轨道的阶数与俘获概率间没有直接关系。 本文共分三章。 第一章是对一般三体问题的回顾和后面计算中采用的Jacobi坐标系的介绍。 第二章介绍了课题研究的背景一太阳系外行星系统，主要介绍了太阳系外行星系统的探测和行星系统的形成与演化。 第三章对一个特定的系统HD 12661的系统构型、动力学演化和稳定性进行了分析。最后简单说明了今后需要进一步做的工作。