非光滑力学是正在蓬勃发展的一个新兴力学分支，它致力于力学中不可微、不连续和非凸问题的研究。由于数学模型的非光滑性，使得数学规划法和非光滑分析等成为研究非光滑力学所必需的数学工具。本文将一些新近发展的数学规划方法引入到非光滑力学的研究，并具体用于塑性极限分析、动力接触和非光滑结构设计等几个高度非线性力学专题的研究，提出了基于数学规划思想的一些精确建模和高效数值求解策略。 论文第1～3章的内容属非光滑力学一般方法的讨论，第4～6章专题研究了三类非光滑力学问题的新型数值方法。具体内容如下： 第一章为文献综述和选题背景。首先简要介绍了非光滑力学的一些基本概念，并通过几个具体的力学问题阐述了非光滑力学研究的基本特点；然后，回顾了非光滑力学的发展历史和研究现状，并在此基础上引出本文的研究工作。 第二章为数学方法预备。首先，介绍了目前研究非光滑力学问题的一些常用数学方法，并特别介绍了当前求解变分不等式和互补问题的一些流行算法；然后，针对基于GAP函数的变分不等式等价最优化问题的不可微性，本文将一类积分型全局最优性条件作为无限维极大值函数的一种新型光滑化技术而引入，建立了将一般变分不等式转化为可微优化问题求解的一个新方法。 第三章提出了一个正则化求解非光滑力学问题的一般框架。引入数学规划中熵正则化方法的思想，通过对非光滑力学问题的变分不等式模型、互补模型或次微分模型等施以熵正则化，建立了非光滑力学问题的一致光滑逼近模型。基于所建立的正则化求解框架，一些成熟的光滑非线性力学方法可被用于非光滑力学问题的求解，极大缩短了已有非光滑力学理论与工程实际应用之间的差距。 第四章利用非线性规划法研究连续体塑性极限分析。首先，利用凸规划Lagrange对偶原理，揭示了塑性极限分析原理中的对偶关系，具体包括：Hill最大塑性功原理对偶问题的建立和上、下限定理所对应非线性规划模型之间对偶关系的推证；然后，基于所澄清的对偶关系，建立了极限分析的一个线性等式约束下的不可微凸规划模型，并提出了一种易为工程师掌握的熵正则化算法。所提方法由于避免了线性化而极大地提高了极限分析的计算效率和精度。 第五章利用互补模型研究动力接触问题的求解。首先，提出了一组动力接触条件，它是经典位移型接触条件(如Signorini接触条件)在动力情形下的一个修正。新的动力接触条件表达为接触冲量与接触点速度之间的互补条件，它能够统一刻画接触边界处于未接触、初始接触、持续接触和脱开接触等状态。然后，基于所提出的互补型动力接触