作为最重要的分类算法,决策树以其易于提取显示规则、计算量相对较小、具有较高的分类准确率等优点被广泛应用于许多领域。ID3算法是最有影响力的决策树算法之一,其核心思想是在决策树的各级结点上,使用属性的信息增益作为属性选择标准。通过选择信息增益最大的属性作为样本划分的测试属性,达到生成决策树并得出分类规则的目的。本文在详细介绍各种常见的分类算法的基础上,论述了各种决策树算法的基本思想,分析了ID3算法存在的诸如过度拟合、多值偏向等问题,并做了以下研究工作:(1)利用对数的性质通过对信息熵公式变形,提出通过数组来存储有限个数的对数值来大幅度减少对数运算量的方法,并且通过模拟实验证明了该方法的有效性。(2)详细描述了重要属性缺失导致的过度拟合问题对ID3算法分类准确率的影响。提出了事前预测准确率的概念,通过在实际应用中的对比分析,从三种假设的事前预测准确率数学模型中确定了准确率最高的一个作为分类评价模型,在此基础上给出了针对重要属性缺失导致的过度拟合问题的解决方案。(3)将ID3算法应用于股票分析。通过选取能够反映股票基本面状况的属性,建立了股票未来收益变动率相对于大盘变动率的分类模型,并且通过在开源数据挖掘软件weka中模拟实验,验证了分类模型的有效性。最终提取了由ID3算法和C4.5算法生成的相同的分类规则作为最终结论,具有较高的准确性。