论文部分内容阅读
随着互联网金融的不断发展,许多小贷公司因风险控制能力不足,接连暴雷。借款人违约风险评估模型作为一种有效的风控手段,可以利用借款人的个人信息和社会活动数据发现用户潜在的违约风险,在小贷企业中发挥着显著作用。本文针对借款用户数据类别不平衡、特征维度高的特点以及企业接入数据成本高的问题,对信贷数据进行特征选择和均衡化处理,并在此基础上建立了基于集成学习的借款人违约风险概率预测模型。具体研究内容和贡献如下:(1)本文提出了一种分层的特征选择框架。首先使用Relief_S算法,通过在特征筛选阶段给与少数类样本更多关注,选择出对少数类样本区分能力强的特征,提高模型在不平衡样本集的预测效果,结合Pearson相关系数法对复杂且高维的信贷特征进行快速的特征初筛,然后对剩余特征使用精筛算法。相比于直接进行特征精筛,在保证模型效果的前提下,分层特征选择显著提升了筛选效率。(2)针对不同预测模型特点提出了针对性的特征精筛算法。因逻辑回归模型效果受信贷特征影响大,本文提出了IKP_Lasso特征筛选算法,从多个角度评估信贷特征,避免了单一评价指标造成信贷特征多方面信息被忽略的问题。在LightGBM模型中,通过LightGBM-RRFE算法对特征进行筛选,解决了LightGBM重要性评估受冗余影响的问题。在神经网络模型中,通过综合考虑LightGBM-RRFE重要性排名并加入经验判断,选择可解释性强的特征,提高神经网络模型的可靠性。(3)根据实际工作经验对模型流程进行工程化建设,总结出适合小贷场景的缺失值、异常值的处理方式以及针对信贷特征的特征工程方法。针对逻辑回归模型受特征影响大的特点,本文对连续特征进行卡方分箱和WOE转化,增加特征的稳定性和可解释性,并引入非线性信息。最后本文根据上述三种特征精筛算法得到的不同信贷特征子集,基于逻辑回归模型、LightGBM模型以及神经网络模型分别建立违约预测模型,然后将三个模型进行分层融合,得到最终的信贷评估模型。实验表明,相比于其他信贷评估模型,本文构建的基于混合特征提取的差异化违约预测模型取得了最佳的预测效果,并且在多个真实数据集上验证了LightGBM-RRFE筛选算法的普适性和优越性。