本文以卫星编队技术为背景,针对微小卫星编队飞行星间相对导航与队形控制两个关键问题开展深入研究。主要研究内容涉及卫星编队动力学模型及典型轨道、相对轨道测量方案、队形调整控制算法与避免碰撞方法等,具体工作如下:首先,建立卫星编队飞行相对运动动力学模型。基于二体假设,建立星间相对运动动力学模型,对该模型进行线性化处理,从而简化运动方程。推导Hill方程解析解,得到满足相对绕飞轨迹闭合的约束条件。根据Hill方程解析解,设计典型轨道构形:空间圆形编队、地平面投影圆形编队及同轨迹串行编队。其次,针对编队飞行卫星间相对导航的需求,提出一种以激光测距仪为测量工具的观测方案。采用扩展卡尔曼滤波算法与Unscented卡尔曼滤波算法对卫星间相对位置及速度进行估计,并采用观测矩阵定量分析法对所设计的观测方案的可观测性进行分析。最后,对卫星编队飞行队形调整控制技术开展研究,分别采用比例微分控制算法和基于势函数的控制方法,并应用Lyapunov稳定性理论对控制算法稳定性进行分析。基于以上控制方法设计一种具有防碰撞功能的队形调整控制方法,对该过程星间碰撞度进行限制,实现避免碰撞的目的。本论文相关的数学仿真检验了相对导航观测方案的可行性、EKF与UKF算法的收敛性,并从收敛时间、收敛精度及计算量等方面进行比较,得出各算法的优缺点;验证了设计控制算法可实现任务要求,并通过比较控制算法的收敛时间、控制精度、能量消耗等性能指标得出比例微分控制算法整体性能优于势函数控制方法的结论。本文所设计的卫星编队相对导航观测方案及队形调整控制算法可为未来我国卫星编队相关领域理论研究与实际应用提供参考。