在充满不确定性的金融环境中,投资者不可避免地面临着金融决策的困惑.金融危机的爆发,使得人们越来越意识到金融风险的不确定性,越来越倾向于使用更加稳健的风险度量方法和更加稳健的金融投资策略.Knight不确定性采用一族概率分布来刻画经济体的(或者投资者的)不确定性.除此之外,一些著名的悖论,例如Allais悖论,Ellsberg悖论等,也促使人们在非线性数学期望的框架下考虑经济金融问题.本文主要以非线性数学期望理论为基础,研究Knight不确定性金融市场中的投资选择行为,风险度量理论以及非线性数学期望等相关问题.在绪论中我们简要介绍一些研究背景以及本文的主要工作.从第二章开始对非线性数学期望理论在风险度量理论和金融决策分析中的几个问题进行了深入研究,并且取得了明显进展.首先,得到了在连续时间模型下风险厌恶和模糊厌恶共同影响的比较静态分析结果.对具有Knight不确定性的所有风险厌恶投资者论证了：若投资者模糊下的Arrow-Pratt绝对风险厌恶系数越大,则他对风险资产的最优需求就越小(定理2.1).紧接着,又进一步地把该比较静态分析结果推广到不同的模型估计参数和不同的金融市场情形(定理2.2-定理2.3).这些结论描述了,风险厌恶、模糊厌恶、无风险利率、Sharpe率以及波动率等各个参数在这种单调性理论中发挥的作用.特别地,在同一个投资者分别投资国内经济和国外经济的情形下,得到了关于国内偏好投资之谜的一些解释.第二章的主要结果丰富了Arrow-Pratt静态模型下的结论,深化了连续模型下不具有模糊性的Borell[2007]和Xia[2011]的结论.其次,考虑了次线性期望空间中的不确定序理论.分别从非线性算子和概率测度族这两种不同的角度,阐述了随机变量的不确定序理论,它为金融头寸的不确定性程度的比较提供了一些理论依据.从非线性算子角度出发,对次线性期望空间中几种重要的分布(最大分布,G-正态分布,G-分布)分别给出了详细的不确定序刻画(定理3.1-定理3.3).从概率测度族角度出发,利用容度空间理论,讨论了次线性期望空间中的有界随机变量的随机序的一些等价刻画(定理3.4-定理3.5).第三章的主要结果推广了依赖概率空间的关于随机序理论的一些经典结果.再次,建立了基于数据和情景分析的凸风险统计和拟凸风险统计的表示定理.受风险度量理论的启发,利用凸对偶分析分别得到了基于数据和情景分析的共单调凸风险统计,分布不变的凸风险统计,共单调拟凸风险统计以及分布不变的拟凸风险统计的表示定理(定理4.1-定理4.4).并且讨论了与经典的风险度量之间的密切联系,为共单调拟凸风险度量的研究和风险管理理论提供了研究基础.第四章的主要结果推广了Ahmed-Filipovic-Svindland [2008]和Kou-Peng-Heyde [2013]中关于自然风险统计表示定理的结果.最后,讨论了与g-期望密切相关的倒向随机微分方程解的存在唯一性问题.经典的g-期望建立在平方可积的空间中,为了对g-期望的定义域进行延拓和发展,本章建立了一类具有不连续生成元的倒向随机微分方程Lp(p>1)解的存在性(定理5.1),以及类具有拟Holder连续生成元的倒向随机微分方程L1解的存在唯一性(定理5.2).第五章的主要结果改进和补充了Jia [2006], Jia [2008b]和Fan-Liu [2010],范胜君-江龙[2012b]的结果.