有关轨道动力学的研究由来已久，从最初的万有引力定理到今天多种多样的动力学模型，轨道动力学研究的每一次突破性进展都会激起航天领域的研究热潮，也会对深空探测、载人航天、空间攻防对抗等工程项目的确立、实施产生重大影响，所以对轨道动力学是需要持续关注研究的。本文以基于四元数的空间轨道动力学为中心展开研究，研究内容分为以下四个部分。首先，建立了基于四元数的两种新型动力学模型，包括地心固连坐标下的动力学模型和描述空间相对运动的动力学模型，给出了其参数与传统直角坐标参数的转换关系，并且就计算效率与传统的直角坐标参数模型进行比较，结果表明新模型计算效率是传统模型的2~3倍。其次，根据上面提出的相对运动参数及其动力学模型，建立了轨道能量和轨道倾角两个稳定伴飞条件关于新型参数的解析表达式，利用梯度法得出了伴飞条件对相对运动参数敏感程度分析的理论方法，通过仿真证明了其正确性。然后，将四元数相对运动模型应用于空间交会的双脉冲制导问题中，对于C-W方程解析解给出的交会双脉冲，考虑J2项摄动和大气阻力，利用四元数相对运动模型对其进行迭代修正，使得交会时刻的相对距离在存在摄动的情况下近似为零。最后，针对空间反攻击规避任务，利用C-W方程解析解给出了远距离反攻击规避时最优机动方向的数值计算方法以及最优机动时刻的选择方法，仿真证明了其有效性，而后在考虑J2项摄动和大气阻力的情况下，使用四元数相对运动模型对上述的规避方向进行了修正，使得反攻击规避机动更加符合实际情况。