信息论与编码在人工神经网络中的应用

来源 :云南大学 | 被引量 : 0次 | 上传用户:toerrisme
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
文章主要讨论了和信息论与编码在人工神经网络中的应用有关的三个方面的内容:1.人工神经网络的输入样本经过各神经网络层得到输出结果这一过程,可以视为信息在网络在的传递过程.在此过程中,信息量不可能增加,总量减少或者保持不变,遗失的信息不可能被恢复.因此,可以用信息熵来计算神经网络中信息量损失的程度,进而比较人工神经网络的性质.2.在设计一个人工神经网络时,该文讨论了用互信息量对输入到人工神经网络中的样本特征进行特征选择,减少输入样本的特征维数的方法.3.根据信息论与编码理论,可以把人工神经网络解释为编码器,人工神经网络的输入经过层层转换后,在输出层中得到相应的码字,即期望的输出.网络中的权值和阀值这些参数实际上决定了网络"编码"的规则.人工神经网络训练的目的就是找出一种较优的编码规则,使输入的样本得到正确的编码.最后给出了用人工神经网络实现纠错码编码的具体方案.
其他文献
捻转血矛线虫病是畜群中流行较为广泛的寄生虫病。该病主要由寄生于牛、羊等反刍动物真胃及小肠的捻转血矛线虫引起。此病在世界范围内均有发生,常造成放牧动物贫血、水肿、
该论文对分形图像压缩编码进行了深入研究,对分形图像编码的发展背景、数学基础系统地作了阐述,在此基础上较为仔细地描述了Jacquin的自动分块分式分形图像编码系统,并进行了
该题目是"九五"预研课题无源定位技术研究的内容之一.该文主要分析了两观测站对运动辐射源目标进行三角交叉法无源定位的基本原理.在此基础建立了数学模型,并进行了计算机仿
极轨气象卫星遥感数据的高精度定位是一项基础性研究工作.它是对遥感信息作进一步处理、利用、研究的前提.在多时相数据融合、不同分辨率的多源遥感数据融合、以及遥感信息的
多载波-码分多址(MC-CDMA)是第三代移动通信系统研究中的一个热门课题.该系统将OFDM技术和CDMA技术相结合,既有效地利用了OFDM的高频谱利用率和抗衰落性能,又充分发挥了传统D
该文分析了CIMS、Internet和intranet等技术对矿井监控技术发展的影响,研究了关系数据库与VB数据库,首次研究了矿用组态软件数据库组态、数据变换组态、历史数据查询组态所涉
该文提出一种小波域图增强的去方块算法,该算法利用图像小波变换尺度间的相关性来检测图像的真实边缘,然后增强其真实边缘,平滑主块边缘及块内的非边缘部分.计算机仿真结果表
该文将详细介绍该系统的设计与实现.计费管理是对网络资源的使用情况进行收集、分析和处理,其基本功能是实现数据采集、数据处理和数据查询.该系统的主要特点是支持多种计费
学位
《聚合物改性》作为高分子材料科学与工程专业的一门专业基础课,在培养创新型应用人才方面起着不可或缺的作用.文章将基于翻转课堂的混合式教学方法引入《聚合物改性》教学过