本文主要研究金融市场的有效性、波动性和持续性。论文首先对有效市场理论进行了修正，建立了更具一般性、更加接近金融市场真实特性的分形市场理论。然后在非线性市场理论和分形市场理论框架下对几个问题进行了研究：非线性协整建模研究；分形市场中的资本资产定价研究；金融波动持续性及多元GARCH建模研究；VaR波动持续性及其建模研究；等。论文的主要工作和创新点如下：1、分析了有效市场理论的局限性，针对有效市场理论的不足和缺陷，将非线性系统理论中的随机分形理论引入金融市场有效性及基本波动特性的研究之中，对于分形市场理论进行了全面、深入的阐述，分析了分形市场的形成机理、基本特性及其经济涵义，阐明了分形市场理论与有效市场理论之间的关系，指出了分形市场理论提出的意义。利用国内外三组不同类型的金融数据进行了实证研究，证实了分形市场的普遍意义。2、非线性协整函数的估计是非线性协整研究中的核心问题，论文将小波神经网络引入非线性协整建模研究之中，利用小波神经网络给出了非线性协整建模方法。对中国沪深股市进行了实证研究，说明对于非线性协整函数的估计，小波神经网络优于BP神经网络，并证实沪深股市之间存在非线性协整关系。3、CAPM和APT的理论基础是有效市场理论，而在分形市场中，二者很难适用。论文运用非线性协整理论来研究分形市场中的资本资产定价问题，提出了分形市场中的资本资产定价理论，并利用小波神经网络给出了分形市场中的资本资产定价模型。通过对上海股市数据的实证研究，说明所提出的模型优于CAPM。4、从市场信息流以及信息对于市场波动影响的角度，分析了金融波动持续性的市场机制和经济涵义，进一步扩展了分形市场理论的内涵。针对传统的基于梯度信息的优化算法在多元GARCH模型估计中的不足，将遗传算法引入多元GARCH建模研究，给出了算法设计。讨论了波动协同持续性的涵义，通过计算验证了中国沪深股市波动的持续性，并通过二元GARCH建模刻画了沪深股市波动的二元GARCH效应，同时说明了沪深股市之间不存在波动协同持续关系。5、根据分形市场理论和时间序列非线性变换原理，说明了从波动持续性角度对VaR进行研究的可行性和理论依据，指出文献中通过对序列建模来研究VaR波动性的不足和缺陷，提出通过对序列的动态建模来研究VaR波动持续性的方法。提出了FITSGARCH模型，并利用脉冲响应函数定义了VaR波动的持续性。对中国沪深股市进行了实证研究，验证了VaR波动的持续性。本论文是国家自然科学基金资助项目《多变量时间序列的波动持续性及其在金融系统的应用（No:70171001）》的组成部分。