层次优化问题广泛应用于工业、农业、交通、金融、政府策略、供应链管理、云计算定价等领域,其主要特征为具有多层结构的非凸优化问题,求解较为困难.云计算是处理大数据问题的一个重要工具,其定价问题是云市场发展的必然问题.因此,对层次优化问题的算法及云计算定价问题的研究具有重要的实际价值和理论意义.本文研究了如下四类层次优化问题的理论、算法及其在云计算定价问题中的应用:悲观双层规划问题、多层规划问题、具有多个下层从属者的双层规划问题以及多层多目标规划问题.主要研究内容包含如下五部分:第一部分,构建了一种求解悲观双层规划问题的算法.悲观双层规划问题是一类特殊的双层规划问题,其求解比乐观双层规划问题的求解更为困难,即便是局部解也是不易求得的.本文研究了悲观双层规划问题与广义纳什均衡问题的理论关系.首先,借助值函数方法,将悲观双层规划问题转化为广义纳什均衡问题;其次,给出了由广义纳什均衡解导出悲观双层规划问题全局解的理论研究及算法的设计;最后,数值试验说明算法的可行性.第二部分,构造了求解多层规划问题满意解的直觉模糊交互式方法.多层规划问题是NP-难问题,层数越多复杂性越大,求解越困难.目前求解多层规划问题的方法很少能求得最优解,即便得到的最优解也很少能使决策者满意.本文结合直觉模糊理论,提出了求解多层规划问题满意解(即双赢或多赢策略)的三种直觉模糊交互式方法.首先,构造得分函数用来刻画决策者的满意度,以减少模糊交互式方法带来的主观性;其次,考虑到实际决策中决策者目标的多样性,从决策者模糊目标的不同角度出发,提出了求解多层规划问题的三种直觉模糊交互式方法;最后,我们将提出的方法应用于云计算定价问题中,数值试验说明这些方法是可行的.第三部分,针对一类具有多下层从属者的双层规划(BLPMF)问题的特点,构建了一种求解其满意解的方法.首先,构造各决策者的隶属函数、非隶属函数以及得分函数用来刻画决策者的满意度;其次,构造新的决策者之间的满意平衡关系比,以保证上层领导者具有比下层从属者更高的决策权、上下层决策者之间的满意平衡关系以及下层决策者之间的满意平衡关系;然后,提出了一种求解(BLPMF)问题满意解的直觉模糊交互式方法;最后,关于云计算定价和资源配置问题的数值试验说明此方法是有效和可行的.第四部分,构建了一种新的求解多层多目标规划问题(MLMOP)的方法.在问题(MLMOP)中不但各决策者具有多个相互冲突的目标函数,而且决策者之间是递阶嵌套的层次关系,因此求解十分困难.本文提出了一种求解问题(MLMOP)满意解的直觉模糊交互式方法.首先,构造得分函数用于刻画各决策者各目标函数的满意度;其次,基于直觉模糊理论以及优劣解距离法,从决策者模糊目标的不同角度出发,提出了五种优化模型以及直觉模糊交互式方法;最后,数值试验说明这些方法是可行的.第五部分,针对云计算中基础设施即服务商、软件设施即服务商以及用户之间的递阶嵌套层次关系,建立了求解云计算定价问题的三层决策模型.目前的云计算定价方法很少考虑用户与服务商之间的递阶嵌套层次关系以及用户价值体验.然而用户价值体验不高则不会购买云服务.三层决策模型使用户能够参与云市场定价,充分考虑用户价值体验.本文通过直觉模糊交互式方法求解决策者的满意解,得到用户和服务商均满意的定价方案.最后,数值实验说明建模的合理性以及求解方法的可行性。