投资组合理论主要研究如何选择风险资产组合以达到最大化收益和最小化风险的目的.1952年Markowitz首次提出了基于最优化理论的投资组合选择方法：均值-方差方法.然而传统的均值方差模型大都讨论具有连续变量的投资组合问题，但在实际的金融交易中有很多离散特征和实际约束，例如：股票市场的交易手数，股票个数限制，最低交易量，交易费用等，由此可见，研究离散变量投资组合最优化问题的算法具有重要的现实意义. 本文研究金融优化中带凹交易费用的离散投资组合模型.由于变量的离散特征，所建立的模型为二次整数规划问题.我们通过对协方差矩阵的cholesky分解，将一个离散不可分离的带凹交易费用的均值-方差投资组合问题化为一个可分离的混合整数规划问题，并在此基础上提出了一个基于拉格朗日对偶松弛的分枝定界算法.为测试算法的有效性，我们分别采用美国股票市场真实数据和随机产生的数据来进行测试，数据结果表明算法能够求解中小规模的带凹交易费用的离散投资组合问题. 本文总共分为四章，第一章简单介绍了投资组合问题的研究背景和进展，并对本文的主要工作做了介绍.第二章首先对一些金融优化中所涉及的基本概念作了介绍，之后着重介绍了连续变量和离散变量的投资组合模型及在市场条件约束下的各种改进或简化的模型.第三章是本文的主要工作，我们提出了带凹交易费用的均值-方差模型的分枝定界算法，并通过数据测试验证其有效性.第四章是结论部分，是对本文结果的总结以及对未来研究的展望.