在金融市场中,投资组合作为一种有效的风险管理工具受到投资者关注,其理论的核心是在不确定环境下对资产进行有效配置。然而,在实际的投资组合管理中,证券市场作为一个复杂的动态系统,投资者难以通过证券历史信息获得证券收益率随机分布的准确参数。同时,已有的研究表明均值-方差投资组合模型对资产的期望收益十分敏感,期望收益发生较小的变化也会导致投资组合最优解产生较大的波动。在考虑模型参数不确定性的研究中,模糊理论和鲁棒理论均得到了广泛应用。为此,分别在模糊理论和鲁棒理论框架下,研究投资组合模型的参数不确定性问题。另外,随着行为金融理论的不断发展,考虑投资者行为特征的投资组合决策问题已成为一个新的研究方向。行为金融的实证研究表明金融市场中的投资者是有限理性的且普遍存在认知偏差,他们的心理和情感因素在投资决策过程中起着不可忽视的作用。鉴于以上分析,以证券市场的不确定性为视角并放宽投资者为理性人的传统假设,研究考虑参数不确定性和投资者行为特征的投资组合选择问题具有重要的理论意义和现实价值。本文对考虑参数不确定性和投资者行为特征的投资组合选择问题进行了深入研究,主要开展了以下几个方面的研究工作:(1)研究考虑投资者风险特征的随机模糊投资组合选择问题。具体地,考虑投资者面临证券市场随机和模糊的双重不确定性,把证券收益率视为随机模糊变量。在前景理论下考虑投资者的风险特征,建立不同的随机模糊收益率、期望收益隶属度函数和目标权重,构建考虑投资者风险特征的随机模糊投资组合模型。最后,采用实证方法把市场分为下降和上升两个阶段,研究不同风险特征投资者的投资组合差异及模型表现。(2)研究安全准则下的鲁棒均值-CVaR投资组合选择问题。具体地,考虑证券市场的不确定性,将资产的收益率看成区间随机变量。利用鲁棒优化方法,构建鲁棒均值-CVaR投资组合模型。采用对偶理论,将鲁棒均值-CVaR投资组合模型转换为线性规划问题,降低了模型的求解难度,并有助于计算大规模的资产组合问题。进一步地,考虑投资者的安全性需求,在模型中引入最大违反概率控制模型的保守程度,并直观反映投资者的安全性要求。最后,采用实证的方法,研究投资组合模型的有效性。(3)研究状态依赖和损失厌恶下的鲁棒投资组合选择问题。具体地,从资产收益分布随市场状态转换的角度出发,利用前景理论刻画投资者损失厌恶的心理特征,并同时考虑投资组合的调整费用,构建状态依赖下的损失厌恶投资组合模型。然后,考虑模型参数的不确定性问题,将资产的收益率看成区间随机变量,并结合鲁棒优化理论构建状态依赖和损失厌恶下的鲁棒投资组合模型。在此基础上,采用对偶理论,将投资组合模型转换为线性规划问题,进而降低了模型的求解难度。进一步地,为了直观控制模型的保守程度,在模型中引入了最大违反概率。最后,利用实证的方法,研究在不同市场状态下资产的收益特征以及投资组合模型的有效性。(4)研究基于前景理论的多期鲁棒投资组合选择问题。具体地,考虑投资者的行为特征以及模型参数的不确定性,构建基于前景理论的多期鲁棒投资组合模型。在前景理论的基础上,引入动态损失厌恶系数和动态财富参考点,建立动态前景理论价值函数。进一步地,设计带有衰老领导者和多频振动机制的粒子群算法(ALMV-PSO),求解多期鲁棒投资组合模型。在ALMV-PSO算法中,利用两阶段初始化策略保证初始种群在可行空间内并具有足够的分散程度,并通过基于粒子群算法的随机排序方法解决带约束的优化问题。最后,利用实证的方法,检验ALMV-PSO算法以及投资组合模型的有效性。最后,总结了本文的主要研究结论与贡献,并指出研究的局限性以及未来的研究方向。