新型石油钻机可以主动对钻柱进行加压，更适合水平井钻井工艺。但钻柱受压很容易发生横向振动，引发钻柱失效、井眼扩径等严重事故。本文将受压旋转钻柱简化成旋转变截面梁，将钻柱受到的复杂载荷简化到变截面旋转梁系统中，基于Reddy的高阶剪切梁理论和von karman几何非线性理论，从梁的位移场出发，采用Hamilton变分原理推导出变截面旋转梁在简谐轴向激振压力和变化自旋速度作用下，以中面位移和法线转角为基本未知量的大挠度运动稳定性偏微分控制方程和边界条件，该方程包含由于陀螺力矩作用所引起的耦合项。然后利用Galerkin方法对时间变量和空间变量进行离散，最终获得变截面旋转钻柱离散后的非线性动力学方程，最后通过多尺度法数值求解所得非线性常微分方程。给出运动方程的稳定性区域。通过数值算例，分析轴向激振压力幅值、非线性阻尼和自旋钻速幅值等因素对稳定性区域和幅频曲线特性的影响。研究结果可为水平井钻井过程中减少钻柱失效、提高钻速和降低钻井成本提供参考。