决策树是建立在信息论基础之上,对数据进行分类挖掘的一种方法。其基本思想是,通过一批已知的训练数据建立一棵决策树,然后利用建好的决策树,对数据进行预测。决策树的建立过程可以看成是数据规则的生成过程,因此可以认为,决策树实现了数据规则的可视化,其输出结果也容易理解。决策树方法精确度比较高,结果容易理解,效率也比较高,因而比较常用。至今已经提出了决策树的很多算法,通过分析已知的分类信息得到一个预测模型。根据需要挖掘信息的类型和特点,需要运用不同的分类方案,用最合适和优化的算法来满足信息挖掘的需求,这就是本文的着眼点和主要研究内容。 本文列举了经典ID3算法和知识优选策略的应用实例。信息增益的属性递归优化方法首次应用到高考招生测评的数据挖掘中,并且将属性递归优化算法根据实际需要在高考招生测评工作中进行了测试。这个是一个新领域的应用,此种应用尚属首例。 本文首次提出了结合ID3算法的知识优选策略的属性递归优化算法。试验表明,该算法对ID3算法有所改进,并且生成的决策树是二叉树。所以我们自然地将两者结合起来,发挥各自的优势,从而得到一个性能良好的优化算法。 通过比较属性递归优化方法与知识优选策略的结合的新算法与经典ID3算法构造的决策树,我们发现新的改进算法的决策树更加简洁、更接近于理想的决策树。