基于智能计算的机器学习模型自动搜索

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:sxuuboo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
自动机器学习是指在完全没有人工干预的条件通过算法自动的完成机器学习的完整设计流程,其核心是要实现包括模型选择、特征选择、参数调优等环节在内的自动化设计。自动化机器学习能够给研究者在已有问题上带来新的研究思路,并降低人工智能技术在各工业领域的应用门槛,已成为当前人工智能最前沿的研究方向之一。本文主要针对自动机器学习中的架构搜索方向下的两个子领域展开研究,分别是机器学习模型结构搜索和神经网络架构搜索。机器学习模型结构搜索研究如何自动设计机器学习模型集成的方式,通过自动尝试集成不同模型的优点得到优于单模型的集成模型。神经网络架构搜索研究如何自动设计神经网络架构,通过自动生成新的神经网络架构进行训练找到适合任务问题的网络架构。在机器学习模型结构搜索研究中,我们定义了一种基于图的模型集成表达形式,提出了将图拆分成层单元的组合方案;然后将图结构结合遗传编程算法,定义了新的随机算子、交叉算子和变异算子。我们将机器学习模型作为图结构中的节点,数据在图结构中各个节点之间传输,用遗传编程算法对图结构展开搜索,以此来找到机器学习模型的集成结构。我们将算法在PMLB十五个分类任务上展开模型搜索,并同时比较多个其他方法。实验结果表明,本文提出的方法在测试数据集上的分类效果优于传统机器学习方法和其他自动化机器学习方法。同时展示了搜索过程中最优模型准确率提升时模型结构所经历的变化,发现回归模型在集成的结构中有提升准确率的作用。在神经网络架构搜索中,我们基于贝叶斯优化神经网络架构搜索方法展开研究,对于优化采集函数的算法提出了改进。本文采用了蒙特卡洛树搜索作为优化采集函数的搜索策略,搜索时控制树的宽度与深度两个搜索方向,平衡探索与利用的关系优化搜索结果,同时基于算法原理优化搜索的时间。我们在两个分类图像数据集上展开神经网络架构搜索的实验并与基于模拟退火的方法(Auto-Keras)进行比较,最终实验结果表明,我们所提出的搜索策略效率更高且搜索得到的准确率更高。同时展示了我们与对比算法搜索到的神经网络架构,发现我们的模型复杂度更小,更不容易过拟合。
其他文献
针对现行《中国药典》化橘红标准中基原混乱、实际使用的药用部位与规定不符等问题,经过大量的文献考证、市场调研及实验研究,提出了化橘红药典标准合理的修改建议。化橘红最
目的研究中心静脉压(CVP)降低型急性高血容量心源性肺水肿(ACPE)犬模型的制作及特点.方法快速大量从犬中心静脉内注入生理盐水后,适当应用肾上腺素,观察犬呼吸力学和血流动力
[目的/意义]科技查新机构在支撑科技发展和推动科技进步方面起到积极作用,但在以创新为竞争焦点的发展新时代,查新机构职能明显与时代创新需求相矛盾。[方法/过程]在梳理我国
目的:评价中药熏蒸配合主动直腿抬高锻炼治疗腰椎间盘突出症的安全性及疗效,并探讨中药熏蒸配合主动直腿抬高功能锻炼的最佳时机。方法:选取腰椎间盘突出症患者90例,采用数字
收集近20年来中国知网期刊全文数据库中所有有关当归藤的文献资料,进行归纳概括。从生药学特征、化学成分、质量评价、药理活性、临床应用等方面对当归藤的国内研究进展进行
一代谋臣姜太公文/郝文利何宪景姜太公,姓姜名尚,字子牙,号飞熊、太公望。他是炎帝的后裔,从封姓又称吕尚,亦称吕望。姜太公是我国商末周初的政治家、军事家。他著的《六韬》是我国
在单因素试验的基础上,通过3因素3水平正交试验优化了荷叶离褶伞菌丝体和发酵液中多糖的提取工艺。利用圆纸片法对荷叶离褶伞多糖进行了抑菌性实验,结果表明荷叶离褶伞多糖提取
深基坑支护技术支持对于建筑工程的顺利进行十分重要,在一定基础上可以保证其稳定性以及整体施工成本的控制力度。文章从常见的深基坑支护技术进行系列概述,从而对施工过程中
<正> 江苏省盐城市有一家无线电厂,注重产品的售后服务,主动走‘亲家’,探‘嫁女’,经常派出工程技术人员,上门进行收录机使用的技术指导,帮助用户掌握排除故障和保养收录机
1引言过去国内水泥生产线窑尾不论其规模大小基本上都是采用电除尘器,20世纪70年代,仅有少量的水泥生产企业窑尾烟气处理采用了袋除尘器,但这些厂的处理烟气量一般都在200000m^3