经过半个多世纪的发展,混沌理论在诸多学科应用方面取得了极大的进展,尤其在图像加密,神经网络,通信安全等领域取得了丰硕的成果。研究具备丰富动力学特性的混沌系统已经成为了非线性系统研究的重要内容。暂态行为是指渐近动力学之前的时间演化,在非线性系统的观测、建模、预测和控制方面,暂态行为可能比非线性系统的渐近状态发挥着更加重要的作用,它对物理学、化学、生物学、工程学、经济学以及社会科学等广泛学科所产生的非线性动力学系统具有重要的意义。因此,暂态行为的研究是一个值得关注的关键问题。本文围绕改进Sprott-C系统,四维光滑混沌系统和经典Lorenz混沌系统展开研究,主要研究了系统建模,基础动力学行为分析,暂态行为分析及微弱信号检测,具体研究工作总结如下:（1）基于Sprott-C系统提出了一个含有变散度的耗散混沌系统,通过对Hamilton能量的分析,揭示了系统的混沌产生机理。利用拉格朗日乘数法与卡丹公式求解系统的最终界、平衡点与Hopf分岔。然后提出两个新的指标对变散度进行分析,并对系统的多稳态和隐藏吸引子进行了分析。最后,利用时序简化方法对系统的暂态行为进行分析。（2）在本文所提的含有变散度的耗散混沌系统的基础上,提出了一个四维光滑混沌系统。分析了系统的复杂动力学行为,在不同的参数条件下,系统可以分为三个不同的区域,分别对应三个不同的混沌吸引子。利用时序简化方法对系统第三个区域的暂态行为进行分析,揭示了系统产生暂态混沌的原因,并发现了暂态拟周期的暂态持续时间的可预测性。最后,利用控制变量方法,对稳定平衡点的位置和特征值对边沿激变的重要影响进行了分析。（3）为验证本文所提暂态拟周期的普适性,对经典Lorenz系统中的暂态拟周期进行分析。利用basin图对不同终止条件下初始点对暂态拟周期的影响进行分析,发现了拟周期幅值与暂态拟周期持续时间的可预测性,并通过对吸引子轨迹的分析揭示了暂态拟周期产生的必要条件;然后对微弱信号检测系统的抗噪性进行分析;最后分析了高斯噪声影响下,暂态拟周期持续时间与驱动信号幅值的关系,发现可以利用暂态拟周期持续时间对待测信号幅值进行预测。