组合分类方法是机器学习领域逐渐发展起来的用于提高弱分类器准确性的有效方法,被认为是十几年来研究的最好的学习算法之一。大量的理论和实验研究表明：与单个分类模型相比,组合分类模型具有明显的优势。在组合分类中,影响组合分类器性能的一个重要因素是各个基分类器间的差异性。不同的组合算法通常采用不同的方法来保证这种的差异。经典组合分类算法如Bagging、Boosting,都是从训练样本的角度出发采用随机抽样的方法来生成不同的基分类器。随机抽样能够保证基分类器的差异,但它也有缺陷——存在丢失信息的风险,特别是在训练样本集很小的情况下,这个问题就更突出了。我们从RotationForest算法中得到启发,通过对训练数据集进行特征变换来保证基分类器的差异度。由此我们提出了一种新的组合分类算法——ICATrees。与传统的建立组合分类器方法不同是,此算法在建立组合分类器时是从数据集的特征属性出发,通过随机划分、特征变换ICA,将训练数据集映射到不同的特征空间后,再使用决策树分类算法J48对其进行学习,生成基分类器。该算法是基于完整训练数据集进行学习的,从而能够有效地避免抽样所带来信息丢失的问题。通过随机划分和特征变换,该算法不但能够保证各个基分类器的差异,并且在随机选取的30个UCI数据集上的实验表明,与Boosting相比,在分类准确率上也有了一定的提高。