论文部分内容阅读
对神经网络内部行为的研究一直是神经网络研究领域的一大课题,特别是对应用广泛的多层感知器的研究价值尤为突出。研究结果对深入了解神经网络的内部行为、优化网络、提高网络性能以及知识提取等都有着积极的作用。 线性判别函数理论是线性分类器的分析基础,不适于非线性分类器。对于简单的完成线性分类功能的感知器,已经有系统的理论指导,但是对于复杂得多的多层感知器,目前尚无系统的理论指导,仍处在发展阶段。在模式识别经典判别函数理论的基础上,结合模糊集合理论,对用于模式识别和分类的多层感知器的行为进行的分析,借用经典判别函数理论的概念,把非线性激励函数视作隶属度函数,提出了模糊线性判别函数、模糊判别面和模糊线性分类器的概念,得到了如下结论F-LDF: 1)模糊线性判别函数net（X）=WTX+b通过超平面（判别边界）net（X）=0将特征空间分割（带有模糊区域）; 2)该神经元的权重向量W是模糊判别面的法线向量,确定了模糊判别面的朝向; 3)原点到判别面的距离为r=-b/‖W‖,偏移量b决定着模糊判别面的位置,改变偏移量b值即移动模糊判别面相对于原点的距离。 利用该概念,对用于模式识别和分类的多层感知器的分类行为进行了解释,使得对多层感知器分类行为的认识更加明晰。 在此基础上,利用该概念对多层感知器的权重进行分析,得到了如下结论: 1)H个隐层神经元产生H个模糊超平面将特征空间分割（带有模糊区）。 2)由于隐层神经元权重初始向量W0垂直于各初始判别面,所以,H个权重初始向量均匀分布在权重空间中一个超球面上,意味着在特征空间设定了离原点距离r=-b/‖W‖的H个判别面,它们是某超球面的切面（超平面）,均匀分布（尽可能多朝向）在特征空间中。当对某问题求解时,所需要的任何方向的局部判别面,都有与之较接近的初始判别面存在,这