论文部分内容阅读
【摘要】 ELM算法优化研究是目前研究的重点. ELM是神经网络的一种,伴随着计算机技术的发展,大部分数学建模系统通过采用一种新的探索方法—信息数据挖掘模糊理论数学建模分析. 将该模型应用于数据挖掘模糊理论数学建模分析算法,尤其是个性化数据挖掘模糊理论是十分合理的. 【关键词】 ELM优化 数学建模分析;数据挖掘模糊理论
1. 引 言
本文通过单隐藏神经网络进行基于数据挖掘模糊理论ELM算法优化研究. 下图描绘的是其整体结构,ELM是神经网络的一种,神经网络是单层网络的一种.
神经网络的激活函数为:
f(x) = ■(0 < f(x) < 1),通过运算求出最终值.
2. 数学建模数据挖掘模糊理论
神经网络的输入输出{(xj,yj)}■■,xj = [xj1,xj2,…,xjd]T∈Rd,N表示样本的总数,d表示x分量的维度,yj = [yj1,yj2,…,yjm]T∈Rm,m表示y分量维度上式中,βi为输出权值向量,ai为输入权值向量,oj为与Yj相对应的实际输出向量,bj为偏置.
下图描绘的是其整体结构,ELM是神经网络的一种,神经网络是单层网络的一种,本图为文献[2]中理论:
最终将优化的误差如下所示:■||oj - tj|| = 0.
最小化损失函数,E = ■(■βig(xi,ai,bi)-tj).
根据最小二乘原理:■=H T,H 为H的广义逆矩阵. 通过训练神经网络建立数据模型.
3. 改进数据挖掘模糊理论方法
将样本非结构化数据复制两份,即数据量由N变成2*N,分别以不同的概率属于不同的类别. 非结构化数据集由
{xj,yj},for j=1,…,N
变成{xj,yj,uj},for j = 1,…,N,{xj-yj,1-uj},for j = 1,…,N
最小化:L的前面是模型复杂度,后面是加权后的经验数学建模,u为权值. e为误差. 换成拉格朗日乘子
L=■wTw Gu■■||ej||2 C(1 - u)■■||ηj||2 - ■αj(wT?准(xj) b - 1 e) - ■rj(wT?准(xj) B 1 - η),
αj,rj是二倍样本的数据集,得出的拉格朗日乘子.(w,b,e,η,αj,rj)表示拉格朗日系数,和误差值. 通过求(w,b,e,η,αj,rj)偏微分,双加权ELM分类目标:
sign(wT?准(xj) b)=sign(■(αj - rj)K(x,xj) b),
神经网络输出权值为:
■=HT■ HTH-1(2w - 1)T.
4. 数据分析
本文通过贝叶斯,ELM以及神经网络对比ELM算法优化研究的预测精度. 从本文实例数据分析看出4个数学建模预测数据集中神经网络预测精度最高. 改进的对数学建模预测更高.
【参考文献】
[1]吴琳. 当前企业ELM优化中存在的问题及对策[J]. 财经界(学术版). 2013(19).
[2]谭心纯. 中小企业ELM优化的数学建模控制及对策[J]. 行政事业资产与. 2013(12).
1. 引 言
本文通过单隐藏神经网络进行基于数据挖掘模糊理论ELM算法优化研究. 下图描绘的是其整体结构,ELM是神经网络的一种,神经网络是单层网络的一种.
神经网络的激活函数为:
f(x) = ■(0 < f(x) < 1),通过运算求出最终值.
2. 数学建模数据挖掘模糊理论
神经网络的输入输出{(xj,yj)}■■,xj = [xj1,xj2,…,xjd]T∈Rd,N表示样本的总数,d表示x分量的维度,yj = [yj1,yj2,…,yjm]T∈Rm,m表示y分量维度上式中,βi为输出权值向量,ai为输入权值向量,oj为与Yj相对应的实际输出向量,bj为偏置.
下图描绘的是其整体结构,ELM是神经网络的一种,神经网络是单层网络的一种,本图为文献[2]中理论:
最终将优化的误差如下所示:■||oj - tj|| = 0.
最小化损失函数,E = ■(■βig(xi,ai,bi)-tj).
根据最小二乘原理:■=H T,H 为H的广义逆矩阵. 通过训练神经网络建立数据模型.
3. 改进数据挖掘模糊理论方法
将样本非结构化数据复制两份,即数据量由N变成2*N,分别以不同的概率属于不同的类别. 非结构化数据集由
{xj,yj},for j=1,…,N
变成{xj,yj,uj},for j = 1,…,N,{xj-yj,1-uj},for j = 1,…,N
最小化:L的前面是模型复杂度,后面是加权后的经验数学建模,u为权值. e为误差. 换成拉格朗日乘子
L=■wTw Gu■■||ej||2 C(1 - u)■■||ηj||2 - ■αj(wT?准(xj) b - 1 e) - ■rj(wT?准(xj) B 1 - η),
αj,rj是二倍样本的数据集,得出的拉格朗日乘子.(w,b,e,η,αj,rj)表示拉格朗日系数,和误差值. 通过求(w,b,e,η,αj,rj)偏微分,双加权ELM分类目标:
sign(wT?准(xj) b)=sign(■(αj - rj)K(x,xj) b),
神经网络输出权值为:
■=HT■ HTH-1(2w - 1)T.
4. 数据分析
本文通过贝叶斯,ELM以及神经网络对比ELM算法优化研究的预测精度. 从本文实例数据分析看出4个数学建模预测数据集中神经网络预测精度最高. 改进的对数学建模预测更高.
【参考文献】
[1]吴琳. 当前企业ELM优化中存在的问题及对策[J]. 财经界(学术版). 2013(19).
[2]谭心纯. 中小企业ELM优化的数学建模控制及对策[J]. 行政事业资产与. 2013(12).