粗糙集理论的一项重要工作是对属性约简的研究。但属性约简是一个NP完全问题，在效率上存在缺陷。把信息论中的香农信息熵引入到粗糙集属性约简中，已经被证明是一种有效的属性约简方法，目前对信息熵的扩充定义及算法研究是粗糙集研究的热点之一。以完备信息系统和不完备信息系统为研究对象，提出了基于属性相关性的知识约简算法。首先，引入了一个度量信息系统中知识不确定性的测度的概念——信息量，分析了信息量，条件信息量，联合信息量，交互信息量之间的关系；对属性或属性子集之间的相关性，提出了相对系数这个概念，利用相关系数可以刻画一个信息系统是否完备，定义了相对相关度来描述各属性的重要程度，属性的相对相关度越小则此属性越重要。在完备信息系统属性约简中，以相对相关度为启发信息，获得了基于相对相关度的属性约简算法。实验结果表明算法是有效的。以随机信息系统为研究对象，提出了基于属性相关性的知识约简算法。首先引入了对数形式的香农信息熵和具有补集特征的信息熵，分析了这两种不同的信息熵各自信息熵，条件信息熵，联合信息熵，交互信息熵之间的关系；对这两种信息熵都定义了相对系数刻画属性或属性子集之间的相关性，然后利用相对系数定义相对相关度描述各属性的重要程度。在随机信息系统属性约简中，以相对相关度为启发信息，获得了基于相对相关度的属性约简算法。最后实验结果证明算法是有效的。