马克维茨均值方差模型是投资组合优化模型中最基本的模型,在不考虑各种费用及资产可以无限细分的假设下,将投资组合问题用数学优化问题表述并求解,一定程度上解决了投资组合在风险与收益之间的权衡。在此基础上,很多人对投资组合问题进行改进与优化,如考虑交易费用或整手买入限制等,使得问题更贴近实际交易规则,同时也增加了问题的复杂性。本文首先对投资组合优化问题的目标函数做出改进,提出极小化投资组合风险收益比形式的目标函数,一方面降低了问题对主观选择的依赖,另一方面增加了优化求解的难度；其次,增加了势约束,限制非零分量的个数,避免投资过于分散增加管理成本,同时避免出现某一资产投资比例过小而导致相关成本的增加。本文提出一类光滑函数近似势约束,求解极小化投资组合风险收益比为目标的光滑非线性近似问题,并用动约束同伦方法求解。通过将光滑参数与同伦参数同步变化,设计同伦算法,并给出收敛性证明。从数值结果可以看出,用光滑函数近似势约束求解近似问题得到的解比1-范数松弛启发得到的解可以得到更优的目标值；在利用fmincon序列二次规划方法求解失败时,同伦方法能够提供原问题的近似局部最优解。同时将夏普比率为目标的投资组合问题转化为具有二次目标函数的优化问题求解,对势约束采用光滑函数近似,并给出相应数值结果。