本文检验了中国上海和深圳两个股票市场近些年的时间序列数据的非线性特征并建立了非线性模型以考察模型对于实际金融市场现象的解释能力。本文首先以传统的计量经济学检验方法检验两市非线性特征的存在性。通过BDS检验、自相关检验、异方差检验和建立GARCH模型证明我国股票市场排除线性随机过程后仍存在非线性关系,可以看作是均值回复的方差满足GARCH模型的非线性过程。收益率序列表现出典型的波动集聚特征。但限于传统检验方法,无法分析存在的非线性过程是非线性随机过程还是非线性确定性过程。本文继而在非线性理论的框架下基于相空间重构法检验系统的非线性特征。运用伪最近领域点法和互信息法对两市收益率序列相空间重构后首先进行混沌识别：计算关联维数和Lyapunov指数。两市的关联维数大约为5,随着嵌入维数的增加而增加但是增加速度显著慢于嵌入维数的增加,即存在一个高维确定性过程。用小数据量法计算的Lyapunov指数都大于0,如果是确定性过程,这代表了存在对初始条件的敏感性,符合混沌特征。然后根据分形理论中的R/S分析法本文计算了两市的Hurst指数：均分别在0.6左右,从而得出在传统的R/S分析法下,我国股市存在分形特征并且具有长期记忆。但引进修正的R/S分析法以剔除短期自相关的因素后发现长期记忆并不存在。综合混沌和分形分析,本文得出我国股票市场是一个噪声混沌系统的结论。然后本文基于适应性信念系统建立非线性结构模型。在BH两类型交易者的基础上将其拓展为股票市场的三类型交易者模型。本文所引入的第三类交易者在采取的交易策略中同时包括成交量和价格的历史信息,其长期盈利在扣除信息成本后仍然可以超过其他两类交易者,说明在非线性模型的前提假设下——即有限理性的异质交易者进行适应性学习产生演化互动,基于历史信息的交易策略不会被信息有效的市场淘汰。在模型中加入噪声后,系统拟合的价格和收益率序列与实际股票市场相似,能够解释波动集聚的现象,说明内生机制可以是波动集聚的原因,交易过程自身导致并放大了这一效应。基于混沌和分叉理论,本文给出了三类型交易者模型在不同参数下,价格在两个吸引子之间波动的两种机制：(1)一个稳态和一个极限环的共同存在,(2)混沌(奇异吸引子)和稳态的共同存在。这两种情况分别对应弱趋势推演和强趋势推演。