碳纳米管具有优异的机械、力学、电学、化学和光学性能，具有很高的强度和韧性，可以预见，将碳纳米管作为复合材料的增强体可以表现出良好的强度、弹性和抗疲劳性。目前，碳纳米管基础力学行为的研究已经成为国际上的热点问题之一。本文基于连续介质力学的理论框架，完善和进一步发展了连续介质力学的基本理论和研究方法，研究了碳纳米管屈曲、后屈曲以及冲击载荷作用下的动力屈曲等一系列相关问题。现将这些工作归纳如下： (1)首次研究了热力耦合作用下双壁和多壁碳纳米管的轴压和扭转屈曲问题。基于连续介质力学理论的多层壳体模型，采用Lennard-Jones“6-12”(L-J)势来描述碳纳米管层间范德华力的作用，建立了计及层问范德华力、温度效应并适用于各种载荷作用下的多壁碳纳米管屈曲问题的普适方程。从理论上分析了热力耦合作用下碳纳米管的屈曲性能，得到了热力耦合作用下双壁碳纳米管轴压和扭转屈曲问题的解析解和多壁碳纳米管轴压和扭转屈曲问题的数值解。结果表明，双壁和多壁碳纳米管的轴压和扭转屈曲载荷均依赖于其屈曲模态的波数；同时，温度变化量对碳纳米管的轴压和扭转屈曲载荷有显著影响。在低温环境下，随着温度变化量的增加，碳纳米管的轴压和扭转临界屈曲载荷都增大；而在高温环境下，随着温度变化量的增加，碳纳米管的轴压和扭转临界屈曲载荷都降低。进一步研究了不同情况下碳纳米管的轴向临界屈曲应变，结果表明，在低温环境中，温度变化量的增加使得碳纳米管的轴向临界屈曲应变提高，而在高温环境时，温度变化量的增加使得碳纳米管的轴向临界屈曲应变减小。碳纳米管长径比的变化对碳纳米管的轴向临界屈曲应变没有影响；在固定长径比的情况下，随着碳纳米管半径的增大，轴向临界屈曲应变逐渐减小。 (2)基于连续介质弹性壳理论首次研究了碳纳米管在扭转和轴压载荷作用下大变形非线性后屈曲行为。以Donnell大挠度非线性方程为基础，考虑了层间范德华力的作用和壳体的非线性前屈曲变形，结合壳体的边界层理论，应用奇异摄动法给出了单壁和双壁碳纳米管在扭转和轴压载荷作用下的屈曲载荷和后屈曲平衡路径。研究结果表明，在碳纳米管后屈曲过程中，载荷与各变形量之间的关系均表现为非线性；单壁和双壁碳纳米管在扭转和轴压载荷作用下均具有不稳定的后屈曲平衡路径；在固定长径比的情况下，随着碳纳米管半径的增大，其后屈曲路径也越高。同时，对碳纳米管弹性模量和厚度的选取进行了讨论，指出碳纳米管的弹性模量、壁厚和弯曲刚度应采用统一、相互协调的方式进行定义，碳纳米管的面内刚度同弯曲刚度一样应该作为一个独立的材料参数，并保持为常数不变。 (3)将分子动力学和连续介质力学相结合，提出了改进的有限元方法，系统地研究了单壁和多壁碳纳米管在轴压、弯曲和扭转载荷作用下的大变形非线性力学行为。改进的有限元方法主要包括：采用考虑几何非线性效应、横向剪切效应的连续弹性壳体理论来模拟单壁碳纳米管；构建特殊的接触单元来模拟分子间范德华力的非线性作用；考虑由石墨板卷曲曲率引起的碳纳米管的初始内应力。首先利用非线性大变形弹性壳模型模拟了单壁碳纳米管的非线性力学行为。结果表明，有限元方法得到的屈曲临界值与已有的分子动力学模拟结果吻合较好，而且碳纳米管后屈曲构型也和分子动力学模拟结果吻合很好，从而验证了有限元方法的正确性，为系统地研究单壁和多壁碳纳米管在各种载荷作用下的非线性力学行为提供了有力的依据。在此基础上，利用改进的有限元方法，研究了范德华力对多壁碳纳米管屈曲性能的影响；同时研究了单壁和多壁碳纳米管各种几何参数对其在各种载荷作用下的大变形力学行为的影响。将有限元结果与连续介质力学的壳体理论、欧拉屈曲理论以及现有的分子动力学结果进行了对比，给出了连续介质壳体理论和欧拉屈曲理论的适用范围。结果表明，对于较大尺寸碳纳米管的非线性力学性能的研究，改进的有限元方法比分子动力学、连续介质壳体理论和欧拉屈曲理论具有更广泛的适用性。同时，改进的有限元方法可以克服分子动力学方法引起的计算规模大、计算耗时等缺点。可见，对模拟大尺度的纳米力学问题，改进的有限元方法将会成为新的更加快捷、准确的数值模拟方法。 (4)首次研究了双壁碳纳米管在轴向冲击载荷作用下的弹性动力屈曲问题。应用改进的有限元方法，建立考虑层间范德华力作用的壳一弹簧非线性有限元模型，基于B-R运动准则，系统地研究了双壁碳纳米管的动力屈曲问题，得到了轴向冲击载荷作用下双壁碳纳米管的临界动力屈曲载荷和临界动力失效载荷。研究结果表明，在动力屈曲过程中，双壁碳纳米管层间距的变化非常小，各管的变形相互协调;碳纳米管中应力波的传播导致碳纳米管出现非对称屈曲模态，可明显观测到四个环向波瓣，沿着碳纳米管的轴线方向，四个波瓣的波峰和波谷交替变化。对不同情况碳纳米管动力屈曲问题的研究表明，冲击载荷的大小和持续时间对碳纳米管的动力屈曲有较大影响，同时碳纳米管的长度对碳纳米管的动力屈曲也有较大的影响，较短的碳纳米管较早出现非对称屈曲模态。