优化问题的研究一直以来深受科研工作者的关注,频繁出现在机器学习、信号处理、生物信息学以及各类科学与工程领域中的非光滑非凸优化问题在近年来成为了学者们研究的重点。人工神经网络因其具有处理高维度问题的能力以及可以求解实时解的特性,成为了求解优化问题中炙手可热的研究方法。针对近年来提出的解决优化问题的神经网络模型存在的局限性,本文构建了不同的两种神经网络模型来解决非光滑非凸优化问题。首先,对于带有不等式与等式约束条件的非光滑非凸优化问题,引入了正则项,构建了一种新型递归神经网络模型。相较于当前的某些模型,该神经网络结构简单,无需事先计算精确的惩罚因子,且初始点可以任意选取。并通过严谨的数学分析,证明了神经网络的状态解从任意初始点出发,最终能够收敛到最优解集。最后使用仿真数值实验检验了理论分析的正确性以及模型的有效性。其次,伪凸优化问题作为非凸优化问题中的一类特殊问题,广泛出现在科学与工程应用中。为解决此类问题,本文构建了一种基于微分包含理论与罚参数思想的新型神经网络模型。同样地,文中也通过理论分析证明了神经网络的状态解会在有限时间内进入到可行域中,并最终收敛于最优解。最后通过数值对比实验验证了模型的准确性与高效性。该神经网络模型的优势在于,不需要计算精确的罚参数,为单层模型结构且对初始点的选取无特殊要求。