本文主要对两种经典哈密顿系统的周期解的线性稳定性进行研究，一个是Ⅳ-体问题中椭圆共形解的稳定性，另一个是紧凸超曲面上闭特征的稳定性。　　Ⅳ-体问题来自于天体运动的研究，而人们对天体运动的探索早在古希腊时代就开始了，直到牛顿时代由于微积分的引入，才使得天体运动的研究有了突破性的进展。在理论上我们把Ⅳ个天体看做Ⅳ个质点，研究它们只在万有引力作用下所做的运动以及它们的稳定性，最为典型的例子是太阳-地球-月球所构成的三体运动系统。自然的，人们希望能理解清楚我们所在星系系统的运动规律。众所周知，对于二体问题，我们知道它们的解是可以显式表达出来的，运动形式十分清楚，然而对于Ⅳ≥3时候的多体问题，由于它们的方程不可积，无法求出显式解。事实上，数学家庞加莱在三体的研究中就发现，三体的解可以呈现极为复杂的情形。因此探究多体问题的解变得极为困难，作为理解多体问题复杂运动的第一步，我们尝试去研究它们所具有的一些特殊形式的运动，如周期运动，拟周期运动等。　　本文第一部分所探讨的是由中心构型所产生的周期解的线性稳定性问题，这种周期解的研究具有悠久的历史，其中最早的两个周期性特解由大数学家欧拉和拉格朗日分别在1767年和1772年所发现，现在分别称为欧拉解和拉格朗日解。欧拉解是由三个质点在一条旋转直线上震动所产生的共线周期解。拉格朗日解由三个质点组成等边三角形，并且每一个质点围绕着它们共同的质心做开普勒运动所产生。这两种特解可以看做中心构型所产生的共形解的特例，其中欧拉解是由直线中心构型所产生的，拉格朗日解是由平面等边三角形构型所产生的周期解，此外还有正n边形以及正1+n形构型等。这些解最早发现的时候都是从纯数学的角度进行研究的，后来发现可以用它们来刻画一些具体的天体运动系统，例如拉格朗日解可以用于分析太阳-木星-特洛伊小行星群构成的系统，而正1+n形可以用来作为土星与土星环系统的近似模型，因此研究它们的稳定性也就具有很强的物理背景。　　已有的关于拉格朗日解线性稳定性的分析大都是集中在离心率e或1-e充分小的情形，对于其余的情况只有一些数值结果或定性的结果。而对于三体以上的共形解，也只有在离心率e=0的时候有相应的结果，对于任意离心率的情形，没有任何结论。我们论文的第一部分就是要研究几种典型中心构型的椭圆共形解的线性稳定性，主要结果包括首次给出椭圆拉格朗日解稳定区域与双曲区域的定量估计，以及正方形，正1+3形，强极小中心构型共形解对任意离心率的双曲性分析。　　论文的第二部分是关于紧凸超曲面上闭特征稳定性的研究。闭特征是紧凸超曲面上由特殊向量场所产生的周期轨道，它的存在性，多重性和稳定性研究是哈密顿动力系统里面的一个经典问题，它促进了指标理论和Floer同调等数学理论的发展。早在1892年，数学家A.M.Liapounov就开始研究这个问题，并得到一些重要的局部性结果。第一个全局性的存在性结果是由数学家P.Rabinowitz和A.Weinstein各自独立得到的。进一步的多重性研究由I.Ekeland等人做出，特别重要的突破是龙以明和朱朝峰利用Maslov型指标的共同跳跃理论所给出的，他们证明了紧凸超曲面上闭特征的个数至少为(o)n(∑)≥[n/2]+1。另一方面，有了多重性结果，很自然需要进一步研究它所具有的性质，例如稳定性。关于这方面，最早的工作是由I.Ekeland等人在对称性条件或者Pinch条件下给出的关于椭圆性闭特征的存在性结果。在2000年，龙以明证明了对于R4中的紧凸超曲面，如果上面的闭特征恰好有两条，那么这两条闭特征都是椭圆的。进一步在论文[38]中，龙以明和朱朝峰进一步证明了IR2n中任意的紧凸超曲面，如果闭特征的个数有限，则至少存在一条椭圆闭特征而且至少有[n/2]条几何相异的闭特征具有无理平均指标，因此它们是非双曲的。此外，他们还在闭特征个数上界小于等于2(o)n(∑)-2＜∞条件下，证明了至少有两条椭圆闭特征。最近，王嵬证明了IR6中的紧凸超曲上的闭特征如果恰好为3条，则至少存在两条无理椭圆的闭特征。在已有的研究结果中，我们知道要证明存在两条椭圆闭特征，都需要加一个很强的上界条件，这个上界条件目前只对IR4中的紧凸超曲面有结果，对于任意维数，我们知之甚少，我们在论文的第二部分就是要去掉严格的上界条件，只在有限性的条件下，得到两条椭圆闭特征，与此同时我们进一步得到了关于一些闭特征平均指标之比为无理数的新性质。全文共分为三章。　　第一章，主要介绍哈密顿系统的周期解及其线性稳定性，特别对本文所要研究的Ⅳ-体问题共形解与紧凸超曲面上闭特征这两种典型的哈密顿系统周期解进行介绍，包括它们的历史背景，意义以及国内外研究现状。与此同时我们给出这些问题研究的难点及前人研究方法所遇到的屏障，并指出本论文在这些问题上所获得的突破。这一章包括三节内容，第一节简介哈密顿系统的周期解及其线性稳定性，并引出我们要研究的两个主要问题。第二节介绍Ⅳ-体问题共形解的相关知识并给出我们在共形解稳定性研究中获得的主要结果。第三节对紧凸超曲面上闭特征问题进行介绍，并给出我们在闭特征稳定性研究中的主要结果。　　第二章，我们主要对Ⅳ-体问题中椭圆共形解的稳定性进行研究，包括椭圆拉格朗日解，正方形，正1+3形以及强极小中心构型共形解的稳定性分析。其中拉格朗日解的线性稳定性依赖于两个参数，一个是质量参数β∈[0，9]，另一个是离心率e∈[0，1）。我们利用Maslov型指标理论和最近发展的线性哈密顿系统迹公式为工具，首次给出椭圆拉格朗日解的线性稳定区域和双曲区域的定量估计。进一步我们发展出一种正定估计技巧，可以用于证明质量参数β在某个范围内，椭圆拉格朗日解对于任意离心率e∈[0，1）都是双曲的，这在实际现象中表现为三个天体的质量在一定范围内取值时，这种周期轨道对任意离心率都是不稳定的。与此同时，利用二阶线性算子相关理论，我们揭示了正方形共形解与椭圆拉格朗日解之间的联系，最终证明了正方形共形解对任意离心率都是双曲的。利用类似的估计方法，我们还得到了强极小中心构型共形解对任意离心率e∈[0，1）的双曲性，作为一个推论我们得到了正1+3形共形解当中心质点质量u∈[0,√3/24）时，对任意离心率它也是双曲的，这是首次得到三体以上中心构型椭圆共形解对任意离心率的双曲性结果。这一章包含四节内容，第一节给出我们关于共形解研究的主要结果，第二节对相关研究工具进行介绍，第三节给出迹公式在椭圆拉格朗日解稳定性上的应用。第四节介绍我们发展的正定估计技术，用于分析椭圆共形解对任意离心率的双曲性。　　第三章，我们研究紧凸超曲面上闭特征的稳定性。这些闭特征是由紧凸超曲面上一些特殊的向量场生成的闭轨道，它们的存在性，多重性以及稳定性是哈密顿系统中的一个经典问题，它的研究促进了变分法以及指标理论的发展。这一部分我们利用龙以明和朱朝峰[38]得到的共同指标跳跃定理为工具，建立一些新的指标不等式，通过这些不等式，我们证明了IR2n中紧凸超曲面上的闭特征个数如果有限，那么一定存在着至少两条椭圆闭特征，并且至少存在(o)n(∑)(Qn(∑)≥[n/2]+1）条闭特征满足它们其中任意两条的平均指标之比是无理数，这个结果改进了龙以明和朱朝峰论文[38]中关于闭特征稳定性与无理性的那部分结果，这也是首次仅在闭特征个数有限性条件下对任意维数得到两条椭圆闭特征的结果。这一章包含四节内容。第一节介绍我们在闭特征稳定性方面所得到的主要结果。第二节我们首先介绍龙以明和朱朝峰关于闭特征的共同指标跳跃定理和指标不等式，然后我们进一步分析共同指标跳跃定理并建立一些新的指标不等式。第三节证明我们的主要定理，最后一节为附录介绍指标迭代理论。