XGBoost算法自2016年面世以来由于优点众多已成为当前热门的机器学习算法。XGBoost自带参数较多会涉及到繁琐的参数优化问题,目前针对XGBoost参数优化大多用经验法或穷举法,但存在很多缺点。如经验法过于依赖人为经验,常常费时费力;网格搜索对所有的参数组合逐一尝试,耗费时间过大,在实际应用中常采用缩小步长的方法,但容易错过最优值;随机搜索在搜索范围中随机抽取样本点,准确性无法保证,结果存在偶然性。在不平衡数据中,以整体分类精度最大化为目标的传统分类技术,会出现分类面偏移的现象,导致分类结果无法达到预期。XGBoost虽然通过设置参数scale_pos_weight来改变训练时的少数类样本权重以此提高少数类分类精度,但在不平衡数据中往往可以训练的少数类样本数目较少,因此该方法效果有限。鉴于此,本文在相关理论的基础上,从XGBoost参数优化、不平衡数据中的分类性能优化这两方面进行研究。(1)针对XGBoost参数优化问题,由于参数优化时相当于黑盒操作,无法知道内部的函数结构和性质,提出一种基于贝叶斯优化的XGBoost参数优化策略。该策略将XGBoost参数组合作为目标函数的输入,XGBoost通过交叉验证得到的评价函数的均值作为目标函数的输出,不断添加新的样本来更新目标函数的后验分布,直到后验分布近似逼近真实的目标函数,从而得到最优的XGBoost参数组合。该策略由于会参照过往的参数值,对搜索距离没有限制,因此可以在较短的时间内获得较优的XGBoost参数。实验结果表明,该策略较网格搜索时间消耗大幅减少,较随机搜索能找到更优的参数组合,使得时间消耗和参数优化结果达到较好的平衡。(2)针对XGBoost不平衡数据分类问题,提出一种新的基于混合采样的XGBoost集成算法。该集成算法首先使用EasyEnsemble算法从多数类样本中随机抽取多个样本子集,并分别与少数类样本进行合并,然后通过Borderline-SMOTE2算法增添少数类样本,最终组成多个类别平衡的训练子集。XGBoost作为基分类器在每个训练子集上进行训练,使基分类器之间存在差异且单个性能达到最优,最后将所有满足条件的XGBoost基分类器集成为强分类器,从而提升在不平衡数据中的分类性能。实验结果表明,该集成算法较常见不平衡分类算法和原有单一XGBoost算法,分类性能得到较大提升。