随着国际金融一体化、金融电子化以及金融虚拟化,金融风险,特别是突发性重大金融事件带来的金融危机将直接危及金融安全、经济安全乃至国家安全。遗憾的是,建立在标准金融理论之上的传统方法无法有效控制市场风险,同时,投资者的非理性行为及其在市场上的扩散导致危机蔓延,甚至市场崩溃。尽管引入认知心理学成果与方法的行为金融学,能够识别出投资者的系统性认知偏差及其行为表征,并指出投资者行为是导致市场价格波动的最关键因素,但是却无法正确刻画与跟踪投资者行为及变化,无法系统地揭示投资者行为与市场价格之间的关联机制。建立在复杂自适应理论与计算实验方法基础之上的计算实验金融学,能够从理论和方法上为行为金融学的研究提供必要且完备的补充。本文是运用计算实验方法来研究投资者行为与市场价格之间互动关系的一次有益尝试。从系统科学的复杂自适应理论出发,本文“自下而上”的利用计算机模拟和人工智能技术构建了一个嵌入认知模式的基于Agent异质行为演化的人工金融市场,并引入了基于小世界网络的羊群行为；在这个计算实验平台上,通过可重复的控制性实验,揭示由此“涌现”出来的金融市场复杂特征及其成因,并提出了相应的行为监控策略。具体内容如下：首先,为将计算实验方法用于行为金融学的研究阐明了理论基础。本文梳理了标准金融理论的研究脉络与局限性,论述了新金融理论框架的构建及其研究现状；在祥述了行为金融学与计算实验金融学的理论与方法的基础上,界定并刻画了投资者有限理性的概念与演化本质,介绍了基于Agent的人工金融市场建模方法,并总结了人工金融市场的校正标准与计算实验方法的优势。随后,构建了一个研究投资者行为与市场价格之间互动关系的计算实验平台。本文结合计算金融学关于个人行为建模的两大分支---异质行为人模型与Santa Fe人工股票市场,建立了一个嵌入行为认知模式的基于Agent异质行为演化的人工金融市场,通过遗传算法与生成函数进化预测规则来实现Agent的自适应性学习；模拟市场运行,利用市场组成分析与市场非线性特征检验,先后对人工市场进行了校准；引入基于小世界网络的投资者羊群行为,设定Agent之间的关系网络与羊群行为传染机制,实现了Agent基于羊群行为、个人经验以及市场行情的互动学习与自适应性学习；通过对比引入羊群行为前后市场价格行为来分解个人行为与羊群行为的协同作用,揭示了羊群行为对市场的影响。基于这个可控的计算实验平台,本文设计了两个阶段的关于投资者个人行为及协同羊群行为的计算金融实验；通过彼此独立的重复实验,对比了控制Agent个人行为特征、个人行为演化以及协同羊群行为的有关参数调整前后的市场价格行为特征,挖掘出市场情绪、市场价值回归预期、市场进化速度、市场信息交流机制以及投资者类型、投资者关注度与传染度等行为序参量；在对行为序参量进行参数分析的基础上,尝试性提出了相应的行为监控策略,包括行为监测指标的构建与控制策略的制定,这有助于金融监管机构、金融机构以及投资者理解金融现象产生的内在机理,提高金融风险防控能力。最后,总结了基于计算实验方法的行为金融学研究的研究意义,结合本文的主要研究成果与创新点,提出了完善人工金融市场构建、解决“平行执行”问题这两个未来研究方向与展望。