随着超分辨率显微镜和超级计算机等现代技术的发展,人们发现幂律扩散现象广泛存在于软物质和生命细胞等复杂系统中,这类与经典的Brownian运动性质截然不同的过程称为反常扩散。在反常扩散理论中,分数Brownian运动是一个具有时间相关性的重要模型,被应用于生物、经济、材料、物理等领域。近年来,在非均匀复杂系统中报道了一些新的反常现象,如扩散系数非唯一、Brownian非Gaussian,这些现象已经不能用现有的反常扩散理论去解释。如何建立新的理论模型,已经成为了反常扩散理论的一个重大课题。本文基于反常扩散过程的基本理论,重点对分数Brownian运动的性质以及利用分数Brownian运动来建立和拓展新的反常扩散模型展开研究,主要工作及贡献如下:（1）发现并解决了分数Brownian运动在Monte Carlo数值模拟中出现的遍历破缺（EB）参数偏差问题。基于数值模拟时间离散的思想,利用Isserlis-Wick定理推导了分数Brownian运动时间离散情况下的EB参数,用Monte Carlo数值模拟的结果进行了比较验证。定量计算了偏差量级的大小以及持续时间,发现偏差大小依赖于数值模拟的最小步长和观测时间,持续时间依赖于最小步长和Hurst指数。这个研究结果完善了分数Brownian运动的遍历性理论,为研究工作者在数值实验中控制遍历偏差提供了理论和方法指导。（2）发现并验证了分数Gaussian噪声驱动的Ornstein-Uhlenbeck过程的暂态振荡效应以及幂律衰减现象。通过计算具有一般初始条件Ornstein-Uhlenbeck过程的解以及相关统计特征,发现即使具有平稳初始条件,系统也会产生暂态振荡效应,其次通过定义平稳解来消除初始条件对系统的影响,得到了解析的平稳自相关函数及其幂律渐近表达式。（3）研究了分数Gaussian噪声在双稳态系统中引起的相变、离出和随机共振现象。通过Monte Carlo数值模拟,发现了Hurst指数引起的系统的相变和离出行为,并且验证了平均首次穿越时间的指数表达式以及首次穿越时间的概率分布,解释了Hurst指数在低噪声强度区域引起粒子离出的物理机制。基于离出和随机共振理论,讨论了Hurst指数引起系统共振的条件和机理。（4）提出了分数Brownian运动在异质扩散模型中的应用。通过引入分数Brownian运动,扩展了异质扩散模型的参数空间,使其能够描述更大范围的反常扩散运动。通过解析推导和数值模拟分析了系统的统计性质,发现引入分数Brownian运动,改变了均方位移的和概率密度的幂律增长指数。最后通过时间重整化得到一个不依赖任何参数的Gaussian类型不变测度,这个结果在分数阶波动方程中也得到了验证。（5）提出并研究了三类Brownian非Gaussian扩散模型。通过引入分数Brownian运动,使新的Brownian非Gaussian扩散模型可以定性解释反常扩散中的非Gaussian现象。通过比较均方位移和概率密度函数等统计特征,为实验物理学家在研究Brownian非Gaussian扩散现象中提供理论模型指导。