石油、天然气是人类社会的主要能源和资源,其勘探依赖于钻井工程。作为实现钻井工作的重要部件,钻杆在狭长井筒内转动,受力情况复杂,振动剧烈。钻杆振动危害极大,不仅会造成钻杆疲劳失效、钻头过度磨损,甚至还会引发井下事故,致使井筒报废。本文针对钻杆纵-扭耦合非线性振动系统的动力学行为进行了理论与数值研究,主要工作内容如下。首先,基于钻杆系统物理模型建立两自由度集中参数模型,考虑钻头种类及相应的钻头与地层接触的非线性模型,对钻压WOB和扭矩TOB关系的表达式进行修正,得到了钻杆纵-扭耦合非线性振动系统的动力学控制微分方程。其次,对控制方程进行数值仿真求解,分析各参数变化时系统的动态响应。结果表明,转盘驱动角速度取值在纵向振动固有频率时,钻杆系统发生纵向共振,纵向以及扭转方向振幅均出现高峰值,发生跳钻现象;摩擦系数或标称钻压的增大会使纵向振幅减小,扭转方向振幅增大,当钻头角速度出现零值时会有黏滑现象发生;地层刚度的增加会使振幅出现峰值处的转盘驱动角速度取值和幅值增大,使发生黏滑对应的摩擦系数变小。转盘驱动角速度较小时,系统的简谐周期响应发生分岔并导致混沌;摩擦系数或标称钻压的增加使得出现混沌现象的取值范围增大;混沌行为使得纵向振动加快,扭转振动减慢,纵向以及扭转方向振幅增大。钻杆系统稳定钻削做简单周期运动时的振动频率与转盘驱动角速度基本一致,且纵向与扭转方向的振动频率相同。再次,以转盘驱动角速度为变化参数,在定初值时以及不定初值参数正向递增和反向递减时研究钻杆系统的初始条件敏感性。结果表明,钻杆纵-扭耦合振动的稳态响应存在跳跃现象,随着转盘驱动角速度的增加,跳跃发生在振幅峰值之前。最后,基于谐波平衡-时频域转换（HB-AFT）方法求得系统的周期解,利用Floquet理论分析周期响应的稳定性,研究转盘驱动角速度和摩擦系数对系统周期响应的影响。结果发现,转盘驱动角速度对系统振幅的影响表现为双峰,在较大峰值附近时会发生跳跃,具有双稳态现象,增大摩擦系数会使出现双稳态的区域减小。对应某些转盘驱动角速度和摩擦系数,系统的周期响应可能发生倍周期分岔和Hopf分岔。