论文部分内容阅读
模拟进化是提供产生机器智能的一种方法。采用各种进化技术,可以在互联网上设计、实现各种智能软件。模拟进化的生物基础是新达尔文主义,这种理论认为:生命过程是繁殖、突变、竞争和选择。
进化学习

人们开始逐步认识到进化的特征。当遇到困难时,希望能从大自然中找到启发答案。这就逐步形成了进化算法(Evolutionaryalgorithms)。这类算法具有天生的并行性。
近年来出现的这种随机搜索方法——进化算法,主要包括三种典型算法。
1.遗传算法(Geneticalgorithms,GA):由美国人J.H.Holland创建。GA初始设计为一个自适应过程。GA开始并且一直主要对二进制串操作,用二进制串表示个体。
2.进化规划(Evolutionaryprogramming,EP):由美国人L.J.Fogel,A.J.Owens和M.J.Walsh提出。EP起源于构造有限状态自动机解决预测问题。目前它主要被用来数值优化。EP目前的形式是实数变量,目标参数和策略参数二者均是实数,并且按外部规则适应。
3.进化策略(Evolutionstrategies,ES):由德国的I.Rechenberg和H.P.Schwefel建立。ES开始时,是被设计作为实验寻优过程。作为实验寻优方法,ES开始用整数变量。但后来用计算机时,变为实数变量。
进化学习(Evolutionarylearning)是基于进化算法的学习算法。其学习过程为:一群体模拟生物体,每个个体被定义为所求问题的候选解。
每一次循环相当于生物体的一代。进化算法模拟各种层次上(例如,基因、个体和种群)的抽象进化。一般情况下,在EP中,进化群体中的个体们类似于种群。ES中的个体们类似于个体。GA中的个体们相当于染色体和基因。
进化神经网络
神经网络已被成功地应用到模式识别、预测、优化、动态系统控制和语言学习等。神经网络的学习包括两方面,权值的变化和拓朴结构的改变。目前的神经网络学习算法主要集中于权值的变化上,而结构不变,即静态的。这有很多缺点。神经网络的结构极大地影响它的学习能力,所以结构也应该是可以变化的。但目前还没有一个通用的、独立于问题的选择一个好的网络拓朴结构的方法。
进化算法,一种随机搜索算法,已被成功地应用到了神经网络结构设计和权值学习上。目前主要是用进化算法中的遗传算法和进化规划对神经网络进行进化学习。
神经网络进化学习过程:
(1)编码:对神经网络进行编码,该编码又能转变成相应的神经网络。编码表示机制是进化神经网络的核心问题。
(2)评价:一般是先解码,将编码变成相应神经网络,按学习目标(即进化算法适应度函数)对神经网络性能进行评价。
(3)选择:选择适应值高的神经网络成为下一代,去掉适应值差的神经网络。一般选择方法是按比例选择、按等级选择或联赛选择。
(4)再生:按不同的编码表示机制,定义相应的遗传算子(如遗传算法中的交叉和突变)。通过遗传算子产生相应的后代(神经网络)。
(5)判断停止条件:若满足,停止;反之转(2)。
遗传算法被用于神经网络学习,主要有两种形式:
(1)对已确定的神经网络结构,用遗传算法优化网络的联接权。
(2)用遗传算法确定网络结构和参数。各种遗传算法的变种被应用到神经网络学习上,取得了一定地成功。
另外,还有用神经网络产生GA的初始群体。或用GA为神经网络选择好的数据,选择一个可用输入数据的子集。
但进化神经网络也有缺点:主要是神经网络编码问题、进化学习过程中的局部最小、对学习后的结果不能解释,不能有效地利用领域知识和学习时间长等问题。
进化学习模拟自然界遗传和变异机制,,并利用自然选择原理进行分类和优化。尽管在学习过程中会产生大量的数据,进化时间长。但是引入进化论的观点,可以使得一些传统的精确的符号方法不能解决的问题变得易解。利用进化神经网络和学习技术,人们可以设计、实现计算机网络上的智能软件。
进化学习

人们开始逐步认识到进化的特征。当遇到困难时,希望能从大自然中找到启发答案。这就逐步形成了进化算法(Evolutionaryalgorithms)。这类算法具有天生的并行性。
近年来出现的这种随机搜索方法——进化算法,主要包括三种典型算法。
1.遗传算法(Geneticalgorithms,GA):由美国人J.H.Holland创建。GA初始设计为一个自适应过程。GA开始并且一直主要对二进制串操作,用二进制串表示个体。
2.进化规划(Evolutionaryprogramming,EP):由美国人L.J.Fogel,A.J.Owens和M.J.Walsh提出。EP起源于构造有限状态自动机解决预测问题。目前它主要被用来数值优化。EP目前的形式是实数变量,目标参数和策略参数二者均是实数,并且按外部规则适应。
3.进化策略(Evolutionstrategies,ES):由德国的I.Rechenberg和H.P.Schwefel建立。ES开始时,是被设计作为实验寻优过程。作为实验寻优方法,ES开始用整数变量。但后来用计算机时,变为实数变量。
进化学习(Evolutionarylearning)是基于进化算法的学习算法。其学习过程为:一群体模拟生物体,每个个体被定义为所求问题的候选解。
每一次循环相当于生物体的一代。进化算法模拟各种层次上(例如,基因、个体和种群)的抽象进化。一般情况下,在EP中,进化群体中的个体们类似于种群。ES中的个体们类似于个体。GA中的个体们相当于染色体和基因。
进化神经网络
神经网络已被成功地应用到模式识别、预测、优化、动态系统控制和语言学习等。神经网络的学习包括两方面,权值的变化和拓朴结构的改变。目前的神经网络学习算法主要集中于权值的变化上,而结构不变,即静态的。这有很多缺点。神经网络的结构极大地影响它的学习能力,所以结构也应该是可以变化的。但目前还没有一个通用的、独立于问题的选择一个好的网络拓朴结构的方法。
进化算法,一种随机搜索算法,已被成功地应用到了神经网络结构设计和权值学习上。目前主要是用进化算法中的遗传算法和进化规划对神经网络进行进化学习。
神经网络进化学习过程:
(1)编码:对神经网络进行编码,该编码又能转变成相应的神经网络。编码表示机制是进化神经网络的核心问题。
(2)评价:一般是先解码,将编码变成相应神经网络,按学习目标(即进化算法适应度函数)对神经网络性能进行评价。
(3)选择:选择适应值高的神经网络成为下一代,去掉适应值差的神经网络。一般选择方法是按比例选择、按等级选择或联赛选择。
(4)再生:按不同的编码表示机制,定义相应的遗传算子(如遗传算法中的交叉和突变)。通过遗传算子产生相应的后代(神经网络)。
(5)判断停止条件:若满足,停止;反之转(2)。
遗传算法被用于神经网络学习,主要有两种形式:
(1)对已确定的神经网络结构,用遗传算法优化网络的联接权。
(2)用遗传算法确定网络结构和参数。各种遗传算法的变种被应用到神经网络学习上,取得了一定地成功。
另外,还有用神经网络产生GA的初始群体。或用GA为神经网络选择好的数据,选择一个可用输入数据的子集。
但进化神经网络也有缺点:主要是神经网络编码问题、进化学习过程中的局部最小、对学习后的结果不能解释,不能有效地利用领域知识和学习时间长等问题。
进化学习模拟自然界遗传和变异机制,,并利用自然选择原理进行分类和优化。尽管在学习过程中会产生大量的数据,进化时间长。但是引入进化论的观点,可以使得一些传统的精确的符号方法不能解决的问题变得易解。利用进化神经网络和学习技术,人们可以设计、实现计算机网络上的智能软件。