坐标下降法在优化问题中扮演着非常重要的作用.本文基于GSL规则提出了一类改进的坐标下降法来求解无约束优化问题.首先,本文利用GSL规则的乘法扰动所确定的指标集和一种新的概率准则,提出了贪婪的随机坐标下降法,并推导了该算法在期望意义下的收敛性.在指标集的确定过程中,引入松弛参数θ∈(0,1]使贪婪的随机坐标下降法得到进一步推广,即松弛的贪婪的随机坐标下降法.此外,本文分析了贪婪的随机坐标下降法求解无约束最小化问题的迭代复杂性,结果表明,该算法可以求解任意置信水平的无约束最小化问题.并且,用大量的数值实验验证了该算法的有效性.其次,将这些算法应用到最小二乘问题.为了避免计算A~TA,本文将算法的框架重新做了描述,并且给出了这些算法在期望意义下的收敛性.特别的,当松弛参数θ=1时,松弛的贪婪的随机坐标下降法约化为贪婪的坐标下降法,在这种情况下,证明了该算法的收敛表达式.进一步,讨论了块坐标下降法来求解最小二乘问题,基于GSL规则的乘法扰动所确定的指标集提出了贪婪的块坐标下降法,并推导了该算法的收敛性.另外,利用这些算法求解最小二乘问题来测试本文提出的算法的有效性.最后,基于GSL规则和MD规则的等价性,本文讨论了Kaczmarz算法和坐标下降法的区别与联系,利用MD规则的乘法扰动所确定的指标集提出了求解相容线性系统贪婪的Kaczmarz算法,并推导了该算法的收敛性.进一步,测试了该算法的有效性.