本文研究求解无约束优化问题的下降算法以及鲁棒优化在投资组合中的应用.对于无约束优化问题的求解,我们利用投影技术,给出一个构造关于目标函数充分下降方向的方法.特别是,投影Newton方向、拟Newton方向、共轭梯度方向等均成为充分下降方向.该性质与目标函数的凸性以及算法所采用的线性搜索无关.此外,若采用适当的初始步长选取方式, Newton法和拟Newton法仍可保持超线性收敛性.在此基础上我们特别研究采用Armijo线性搜索的PSB (Powell-Symmetric-Broyden)拟Newton算法.我们证明,投影PSB算法用于求解一致凸函数的极小化问题时具有全局收敛性和超线性收敛速度.数值实验表明我们的算法可以与BFGS算法相媲美.经过50多年的发展,投资组合选择的理论研究和实践已经取得了相当丰富的成果.投资组合选择简而言之就是把财富分配到不同的资产中,以达到分散风险,确保收益的目的.最优化方法已成为研究最优投资组合的一种主要工具.在投资组合优化决策模型中,参数如收益率的期望值、协方差矩阵等由于受随机因素的影响,在实际当中很难得到精确的估计值.最常用的方式是利用统计方法对它们进行估计,不同的统计技术会产生不同的估计值.但参数的微小变化会对问题的最优解产生很大的影响.如何利用最优化方法处理这些不确定性是一个非常值得关注与研究的问题并已引起广泛关注.鲁棒优化作为一种能有效处理含不确定因素优化问题的手段近年来引起了人们极大关注.鲁棒优化的本质是将参数不确定性处理成能够直接描述且相对简单的形式(如矩形、椭球),在较好的拟合参数不确定性的前提下,把原问题转化为易于求解的确定型最优化问题,使其解在输入任何可能的参数时,结果在一定的概率保证下接近最优.本文对于含有不确定参数的均值方差模型和基于下方风险CVaR的鲁棒投资组合优化模型.基于鲁棒优化理论的最新进展,结合统计或时间序列,构造形式较为简单的不确定集作为对参数不确定性的近似,把原问题转化为易于求解的确定型最优化问题,得到鲁棒性与最优性都较为满意的解.并通过市场数据对模型的可操作性和实用性进行验证.本文还将研究指数化投资组合,将线性跟踪误差作为偏离基准指数的风险,在保证超额收益一定的情况下,极小化跟踪误差.本文研究模型参数为多种不确定集时的鲁棒形式,得到具有鲁棒性的解.并通过市场数据对模型的可操作性和实用性进行验证.对机构投资者而言,进行变现时有必要考虑交易成本.最优执行策略需在使交易成本极小时保持交易成本的不确定性(交易成本的方差)低于可以接受的水平.参数(如永久性和临时性冲击系数、市场价格的波动率)通常是利用统计方法进行估计.由于受随机因素的影响,在实际当中很难得到精确的估计值.本文将鲁棒思想应用至针对机构投资者的最优变现模型的研究.研究鲁棒最优变现模型,得到鲁棒性与最优性都较为满意的解,并对模型进行实证分析.此博士论文得到了国家自然科学基金(10771057)和教育部重大项目(309023)的资助.