星间轨道转移问题是深空探测的一个非常重要的环节。在星际探测中,轨道转移一般要借助很大的速度增量来实现,而小推力推进系统相较于传统的化学推进系统因高比冲、小体积和可点火多次等优点,呈现出巨大的应用潜力。小推力推进系统的应用提升了深空探测效率和价值的同时,轨道转移设计优化技术面临困难与要求。本学位论文针对小推力星际转移轨道设计优化技术进行研究,提出了一种结合RBF神经网络拟合和增广拉格朗日乘子方法的神经网络的轨道设计优化方法,受圆锥曲线拟合轨道思想启发,采用RBF神经网络对小推力轨道进行逼近,明确飞行任务的时间节点,无需对时间约束的解算,采用模拟退火算法快速解算出全局最优解;经过变换已解出的优化结果得到脉冲离散模型的初值,并采用增广拉格朗日乘子方法的神经网络进行优化,从而取得引入加速度路径约束的最终结果,完成了最短时间轨道转移设计,并对固定转移时间的最省燃料轨道转移问题进行了求解。用对所提方法对两个地球到火星的轨道转移实际问题进行了仿真实现,第一个算例证明此方法的有效性,第二个算例体现了此方法的优势。最后,将基于神经网络的设计优化方法与单纯形法和间接法进行对比。从结果分析得出小推力轨道转移问题存在多个局部极小值点,单纯形陷入了局部极小值点,并且距离最优点较远;间接法操作复杂,不仅需要推导复杂的一阶必要条件,而且需要技巧性很高的方法来求解两点或多点边值问题,但是间接法一旦能求解出来,非常接近最优解;本文利用结合RBF神经网络拟合和增广拉格朗日乘子方法的神经网络,所得到的多次结果都获得了近似全局最优。