随着人口和车辆的不断增加,道路发展难以满足车辆交通的需要,交通的科学规划、管理与控制已成为亟待解决的问题。在实际交通中,司机往往受到前面多个车辆、道路实际状态等的相互作用,加、减速的决策是通过前面车辆等随机因素的相互作用势能的大小动态做出的。现有模型主要为确定性的,还不能很好的描述交通系统的高密度随机行为。论文研究交通系统的随机非线性行为,主要将车辆抽象为相互作用的粒子,基于马尔可夫随机场方法中的Ising模型、粒子相互作用模型,以及Arrhenius微观动力学模型,构建相关车辆等随机影响因素之间的相互作用势函数,从理论上建立基于随机相互作用势函数的交通系统微观动力学模型,探索交通系统的随机行为和演化机制。针对单车道高速公路交通系统的交通流随机现象和非线性行为,本文主要进行了如下几个方面的研究：(1)考虑实际交通中,司机受到前面道路上多个车辆的相互作用,加减速的决策过程是通过前面车辆的相互作用的大小动态做出的事实,基于Ising模型、Arrhenius动力学模型等,通过引入顾前势,用动态可变的随机慢化概率改进现有元胞自动机模型中采用的固定慢化概率,提出了一种可变慢化概率的交通流元胞自动机模型。通过数值模拟和仿真,模拟和再现了高密度的交通流复杂行为。(2)进一步考虑前面不同距离的车辆对司机的影响不同的事实,通过引入加权系数,对越靠近司机车辆的相互作用势赋予权重越大,建立了具有加权顾前势的交通流模型。仿真结果表明,加权系数在高密度情况下作用明显,更有利于在保持较高交通密度的同时,具有较高的交通流量和道路通行能力。(3)考虑车辆受到前面车辆的影响是一个距离相关的连续过程,通过引入分子动力学中的Lennard-Jones连续势函数,用Lennard-Jones势函数改进现有离散的与车辆间距离无关的势函数,改进原有交通流细胞自动机模型中的固定的随机慢化概率为动态连续变化的慢化概率,提出了基于Lennard-Jones势的交通流模型。该模型更好的描述了实际交通中司机根据前面车辆及道路环境情况进行随机决策的过程。(4)考虑车辆间的距离与速度对交通流的连续影响过程,通过构建与车辆速度和车辆间距相关的连续势函数,进一步提出两种基于连续相互作用势的元胞自动机交通流模型,分别为优化安全距离相关势函数模型和司机反应强度相关势函数模型。通过数值模拟和仿真,提出的模型具有更大的交通密度和流量,更好的再现了高密度的交通流复杂行为。(5)基于上述已建立的离散、连续的相互作用势函数,通过相互作用势产生的随机相互作用力的计算,建立势函数相关的车辆相互作用随机力模型；将随机力引入车辆动力学模型中,从而构建新的考虑相互作用力的动力学模型,具体探讨了随机力模型的具体表达式,以及随机动力学方程的具体表达形式。基于Lyapunov稳定性理论,对建立的考虑随机力的动力学模型进行了稳定性分析,得到了相关稳定条件。论文的完成丰富和发展了交通系统动力学理论,并为交通规划、管理与控制,以及工程应用提供了理论基础。