随着我国金融市场的完善与发展,中小型企业为市场注入了活力,同时也带来了一定的隐藏信用风险。在企业的信用风险研究过程中,维度过高的影响因素也带来了极大的不便。本文基于在信用风险研究中具有良好性质的Logistic回归模型,结合有效的降维方法,采用集成模型对我国中小企业可能存在的信用风险做出了度量分析以及预测。本文分别将Lasso变量选择方法、以岭估计构建惩罚权重的Adaptive Lasso变量选择方法与Logistic模型相结合用于建模,使得变量选择以及参数估计能够同时实现。又将变量的信息价值用于构建Adaptive Lasso方法中的惩罚权重,改进模型并验证其有效性。本文对上述各方法及相关算法作出了介绍,并对我国上市的中小板企业进行了实证研究。由于我国中小企业信息数据的缺失及限制,研究所采用的数据为不平衡数据,本文首先采用SMOTE方法对不平衡数据进行处理,构建度量企业信用评分的变量指标体系,并验证各分类器的分类效果。本论文数据表明,由信息价值构建惩罚权重的改进的Adaptive Lasso方法在变量选择方面优于原始的Adaptive Lasso方法以及Lasso方法,其选择的变量更具代表性,更全面,在风险区分以及分类预测方面都有着较好的表现,同时可以减少不确定性因素的影响,提高模型的稳定性。