自相似过程是在适当时空尺度下分布不变的过程.自上世纪中叶Lamperti给出严格定义以来,大批学者的关注为自相似过程研究建立了理论平台.如今,自相似过程在统计物理、数理金融、通信网络、计量经济学、水文学等诸多领域得到广泛应用.布朗运动是自相似过程理论研究和实际应用中的最杰出代表.然而,部分有关理想模型也存在与现实不符的缺陷.这就促使人们不断地发掘新的自相似过程.近些年,分式布朗运动、次分式布朗运动、Rosenblatt过程等在相关领域成功应用极大地激发了广大学者对如上自相似过程的研究兴趣.它们已经成为当今自相似过程研究中的热点问题.本文紧跟科研前沿,研究了几类自相似过程的有关理论;讨论了两参数非Lipschitz系数随机Volterra方程解的存在唯一性和正则性问题;并给出了自相似过程的一个应用.首先,分式布朗运动是具有平稳增量的中心高斯自相似过程.在第3章,采用Doss-Sussmann变换,先求解含参数的常微分方程,再根据其解给出了一类随机Volterra积分方程和一类由分式布朗运动驱动的随机微分方程的广义样本解,由此得到了方程解的两个比较定理.其次,研究了长度为m的离散化次分式布朗运动自协方差矩阵.该过程具有诸多与分式布朗运动类似的性质,但没有平稳增量性.事实上,人们在应用中都是采取离散随机信号的处理方法.所以,研究离散化次分式布朗运动的有关性质是应用的前提.在第4章,根据矩阵论线性算子扰动理论,得到了离散化次分式布朗运动自协方差矩阵的逼近定理和结构定理,并且证明了离散化次分式布朗运动增量的渐近平稳性.最后,借用Maple软件工具进行了数据模拟与分析.第三、Rosenblatt过程是Hermite过程的特例,也是第一个具有自相似、平稳增量、长相依的非高斯过程.在第5章,利用Rosenblatt过程的Wiener积分给出了一个关于该过程的Fubini定理,并且根据Young积分和Rosenblatt过程的Ho¨lder连续性定义了关于该过程的Riemann-Stieltjes积分,同时得到对应的随机Fubini定理.第四、在过去的三十年,由布朗单驱动的随机微分方程受到极大关注.然而,对随机Volterra方程的讨论,大量文献还是集中在Lipschitz系数的情形.在第6章,根据平面上的Bihari不等式、推广的Minkowski不等式等,采用Picard迭代的方法,证明了布朗单驱动的两参数非Lipschitz系数随机Volterra方程解的存在唯一性和正则性.最后,在第7章,我们给出了自相似过程在网络流量突发问题中的一个应用.证明了自相似性在网站负荷I/O突发中的存在,并指出了它的应用意义.