非线性理论研究和应用工具的飞速发展，深入影响了许多学科，资本市场的非线性研究就是其中之一。资本市场的非线性研究主要包括分形市场研究、混沌市场研究以及股票市场价格的非线性预测等领域。在我国，有许多学者研究中国资本市场分形特征、混沌市场的识别，以及应用各种类型神经网络进行股票价格的预测。但是由于使用的研究方法和工具不同，研究的结论差别很大。论文应用非线性的理论和方法对我国股票市场做了非线性分析与非线性预测。研究内容分为四部分：第一部分是整个研究工作的理论平台与现实基础。综述并分析了国内、外股票市场非线性分析和非线性预测的主要成果，进而指出国内研究混沌识别方面存在的一些问题，特别是应用了不适当的方法来检验混沌。同时描述了我国股票市场的发展历史、现状和非线性特征。第二部分是研究的核心部分。在对于金融时间序列混沌识别的主要方法进行总结、评述的基础上认为：由于我国股票市场可应用的检验样本数量少，因此应当应用小数据量时间序列的混沌识别法。接着引入适用于小数据量时间序列的混沌检验方法，Gencay-Dechert法对我国股票市场进行了混沌识别，结论为：深证综合指数日收益率序列不存在混沌，上证综合指数日收益率序列不存在混沌。第三部分是论文的另一个核心：中国股票市场的非线性预测。应用概率神经网络(PNN)预测中国股票市场，选择上证综合指数、上证180指数、深证综合指数作预测，结果表明：概率神经网络具有实用性。研究的第四部分为研究工作的总结，指出研究的不足和改进。利用Gencay-Dechert方法识别金融时间序列的混沌，在结果的统计分析方面还可以继续深入；在股票价格的非线性预测方面，如果相关的基础研究有进展，应用概率神经网络进行股票预测存在提高精度的可能。 论文在国内首次应用Gencay-Dechert方法识别股票市场的混沌，并且得出了和大部分国内研究者不一致的结论。论文还在国内首次应用了概率神经网络预测股票价格的涨跌方向，并且给出了预测结果的分析。