本文研究了一类在图像恢复、变量选择和信号处理等方面有许多重要应用的非光滑、非凸、非Lipschitz连续优化问题,由于现阶段已有算法的有效性、收敛性、稳定性的结果还不是很理想,存在一定的不足,因此构造具备较快收敛速率、简单稳定结构和完全收敛性的神经网络算法是本文的主要目的。本文对Clarke稳定点进行了推广,针对优化模型定义了满足较强优化条件的广义稳定点。针对目标函数中的非Lipschitz项利用光滑化技术构造了光滑函数,从而克服了非Lipschitz项的非光滑性,并通过投影算子处理了约束条件,针对优化模型构造了神经网络,分析了广义稳定点是可行域内点的约束优化模型与无约束优化模型的联系。在目标函数的水平集有界的条件下,证明了神经网络解的全局存在性、一致有界性和唯一性,证明了神经网络解轨线的任意聚点都是优化模型的广义稳定点,并证明了在一定条件下,神经网络的解轨线的聚点是唯一的。随后,证明了满足一定性质的优化模型所对应的神经网络可转化为光滑梯度系统,并给出了广义稳定点是可行域内点的一类优化模型。由于Kurdyka-?ojasiewicz指数是分析算法收敛速率的一个重要指标,分析了在一定范围内具有Kurdyka-?ojasiewicz性质的一类优化模型的目标函数。最后,通过数值算例验证了神经网络解轨线的收敛性。