非线性规划问题一直以来都是运筹学的一个重要分支,被广泛应用于信息处理,智能控制,投资组合等领域。近年来,随着互联网和大数据产业的快速发展,传统的优化方法受到极大的挑战,特别是在数据实时分析以及处理大规模优化问题等方面,经典优化手段已经无法满足用户需求,因此迫切需要一种能够在工程应用中高效处理信息的新型优化方法。由于神经网络在并行处理以及非线性映射逼近方面的优点,越来越多的学者加入到神经网络优化理论的研究中。目前,尽管神经网络优化理论已经日趋完善,但是依然存在下列问题:1)连续非凸优化问题始终没有一般的解法能够有效处理;2)复数域神经网络计算代价大,不满足实时性需求;3)在解决某些工程问题时需要对神经网络进行特殊设计;4)在分布式优化、多目标优化、向量优化以及目标优化等方面,神经网络优化能力还有待探索。基于上述问题,本文以凸优化理论,Lyapunov稳定性理论和自然计算理论为基础,进一步研究如何利用神经网络求解带等式约束的连续非凸问题和凸二次规划问题。具体的研究内容和创新之处如下:1.对于带等式约束的连续非凸问题,我们利用变分不等式性质和投影算子建立了投影神经网络,并且我们基于优化算法(Shuffled frog leaping Algorithm)提出了一种群神经网络(SNN)框架。随后借助投影函数性质,研究了此类神经网络的收敛性,并且用它求解多个非凸测试函数,实验结果验证了该算法的有效性。2.借助梯度优化方法,本文提出了一种梯度神经网络,并利用它解决通信领域中的波束成形问题。随后利用LaSalle不变原理和Lyapunov泛函研究了梯度神经网络的收敛性和稳定性。最后,通过数值仿真比较了几种优化算法的收敛速度和最优点集。结果表明,相比较其他优化算法,提出的神经网络能够获得更优的解。