基于SQL-on-Hadoop的不同数据格式的试飞数据查询性能研究

来源 :上海市科学技术协会第十八届学术年会暨上海市航空学会2020年综合性学术年会 | 被引量 : 0次 | 上传用户:m397760109
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着国内民用大飞机行业的快速发展,产生了海量试飞数据,使用大数据技术存储处理试飞数据的需求日益增长.针对试飞数据的特性,结合现有Hadoop生态,从数据存储格式、SQL-on-Hadoop技术等维度出发,通过数据查询实验,确定数据存储、数据处理的技术路线.实验结果表明,以ORC或Parquet格式存储试飞数据,能节省大量存储空间,且对试飞数据获取速度无影响甚至有提升;Spark SQL因其计算框架优势能在一秒内完成单次数据查询,适合在少量试飞数据集中快速查询的场景;从硬件成本角度,Hive技术在实时要求不高的试飞数据查询中能发挥关键作用.
其他文献
  锂是世界上最轻的金属元素,把锂作为合金元素加到金属铝中,就形成了铝锂合金。加入锂之后,可以降低合金的密度,增加刚度,同时仍然保持较高的强度、较好的抗腐蚀性和抗疲劳性以
  为解决某产品发动机耐推进剂高温高压燃气冲刷和烧蚀的问题,对其复合材料衬管的制造工艺进行研究和改进试验。衬管缠绕预成型后,采用模压成型或在压力釜中进行等静压成型,都
  希格斯粒子发现以后,粒子物理的未来发展面临重大转折.2012 年,我国物理学家提出建设环形正负电子对撞机(CEPC),并考虑其未来发展成为质子对撞机(SPPC)的可能性.这个方案在
  微纳米结构或微纳米尺度的器件单元,作为结构或功能部件,不仅要求其具有良好的电、磁、光等性质,还要承载机械载荷,传递力,执行运动等。微纳米结构或材料的力学性能参数如弹性
  介绍了高熵化合物及制备方法,目前的最新进展;根据高熵化合物的特点,对其未来在高温结构陶瓷方面的应用提出设想。以多组元过渡族金属共价键碳、氮化合物为原料,无添加剂
本文首先研究了飞机防滑刹车的基本原理,基于飞机防滑刹车基本原理,结合民机飞行试验实践,研究了飞机刹车试飞方法,主要包括有防滑控制功能及无防滑控制功能两种情况下的刹车
本文选取8个网络结构相似性指标,基于支持向量机构建"一带一路"沿线机场航空网络链路预测模型.研究结果显示:基于支持向量机的链路预测精确度高于传统无监督链路预测模型;Kat
本文通过介绍大型客机试飞改装的要求和特点,以燃油系统为例,提出了一种试飞改装高温环境中压力测量的方法,并使用CFD数值分析法对降温管温度场进行分析,为管路设计提供理论
针对设计保证系统独立监督职能,给出了内部监控审核的实施方式,设计保证系统检查的模块分布;介绍了设计保证系统失效模式清单的建立方法,提出了内部监控审核流程的优化方向,
遥测实时数据处理系统是现代大型民机试飞、取证过程中不可或缺的重要系统.但在传统模式下,因为处理对象复杂、试飞参数繁多等原因,遥测实时数据处理系统存在配置周期冗长、