基于Spark的用户画像系统的设计与实现

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:df_871
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在互联网快速发展的今天,全球信息量呈“爆炸式”增长。对于每天将要面对海量数据的互联网企业来说,如何对这些看似杂乱冗余的数据进行提取、加工、分析、利用,将数据的价值最大化,用于构建用户画像,便于推荐系统或广告投放系统进行精准推荐或广告投放,成为企业不可忽视的重要问题。对“用户画像”问题处理的好坏,很大程度会影响到企业的营收,也会影响企业在“用户画像”领域的发展空间。本文主要研究基于Spark框架的用户画像系统的设计与实现。该系统既可以对接广告投放或精准推荐系统,为其提供数据支持,又可以将用户画像数据以可视化的方式辅助企业的运营决策。整个系统分为数据预处理以及存储模块、用户画像构建模块、数据可视化模块。其中核心部分为用户画像构建模块,该模块在海量用户数据的基础之上,使用Spark框架来并行计算用户画像标签,即统计型标签、匹配型标签、挖掘型标签,解决了海量数据下传统数据处理方式的性能瓶颈。本文着重于研究挖掘型标签的设计与实现,为提升挖掘型标签的计算性能,依托Spark的并行化计算能力对Softmax算法的并行化进行研究,解决了在海量数据之上的多分类问题,提升了用户流失风险标签的计算性能。此外,本文还对基于TF-IDF与互信息加权的朴素贝叶斯分类算法并行化进行研究,通过加权的方式对传统朴素贝叶斯算法进行改进,并依托Spark框架将其运用至用户评论类别标签的并行化计算中。本文在Spark平台上进行实验,以数据并行的方式对挖掘型标签的计算模型进行分布式训练与预测,并对模型的有效性以及执行效率进行评估。最终,本文基于Spring框架、Spring MVC框架、My Batis框架以及Echarts框架设计与实现了数据可视化模块,并对用户画像数据进行可视化输出。
其他文献
2016年11月30日,我国"二十四节气"被联合国教科文组织列入人类非物质文化遗产代表名录,这为富春七小新劳动教育注入一针兴奋剂。节气是指导农事的重要依据,早在2016年4月,富春七小就成立了二十四节气课题组,寻找新劳动教育和二十四节气的切合点,积极开发二十四节气的课程与实践活动,探索二十四节气的传承方式和传播途径。几年下来,学校已经形成了一套成熟的课程体系和一体化的运行机制。
会议
情势变更原则的本质是对意思自治的干预,不当适用会损害当事人利益、危及交易安全。同时该原则具有高度开放性,准确适用的难度较大。本文围绕规范、约束审判权行使的核心问题展开,采用了审判权行使过程中的诉讼法视角,展现、分析并解决《民法典》533条适用中的难点问题。在解决问题层面,首先从理论上厘清情势变更原则在其核心文义之外的适用路径,为正确适用奠定理论基础;规则设计方面,以《民法典》533条创设的"再交涉
分级阅读是国外母语教学中广泛使用的培养儿童有效阅读的方式。本文通过分析分级阅读的目的与作用,联系美国中小学语文教育中分级阅读实践的经验,结合笔者在初中英语教学中运用分级阅读的探索和尝试,探讨了在英语教学中实施分级阅读的重要意义、方式方法及存在的问题与困难。
采用Fe(NO3)3、Fe2(SO4)3和FeCl3溶液氧化脱除山西某焦煤中的硫,研究铁盐种类及添加无机酸对脱硫效果的影响,并利用红外光谱仪对处理前后的煤样进行表征。结果表明,Fe(NO3)3的脱硫效果远高于Fe2(SO4)3和FeCl3;溶液中添加H2SO4和HCl会抑制Fe3+的氧化脱硫效果;较低浓度的HNO3促进Fe(NO3)3氧化脱除煤中的FeS2和硫醇、硫醚等有机硫,而高浓度的HNO3又
在房建工程中,工程监理需要对建筑过程中的所有环节进行严格的把控,除了及时发现质量问题外,对施工过程中存在安全隐患的种种不良因素也要做到及时排查,避免施工人员发生安全事故。因此监理人员在施工现场的管理上有着非常重要的意义,本文就房建工程安全控制环节中工程监理的作用进行分析并简要概述。
学位
小微企业是普惠金融重点服务的对象之一。自2013年提出发展普惠金融以来,我国不断强调要加强对小微企业这类长尾群体的金融服务,这为小微企业提供了良好的发展环境。我国陆续出台各项政策,鼓励金融机构支持小微企业发展,在普惠金融相关政策的支持下,金融机构不断加大小微企业贷款投入力度,小微企业贷款规模整体呈现上升趋势,小微企业贷款余额从2010年末的7.55万亿元增加至2018年末的33.49万亿元,是20
近年来,随着新能源发电、电动汽车、通信电源以及智能电网等新兴应用快速发展,对电力电子装置的效率和应用环境提出了更为严苛的要求。以碳化硅金氧半场效晶体管(SiC MOSFET)为代表的第三代宽禁带半导体器件突破了传统Si器件的材料性能限制,具有高开关速度、低导通损耗、耐高温等性能优点,满足了新一代电力电子应用对功率器件的需求,具有非常广阔的市场应用空间。但是SiC MOSFET可靠性问题仍是制约其大
《乡村教师支持计划细则2015-2020》的颁布,明确指出必须加强乡村教师队伍建设,不断深化教育领域的综合改革,推进城乡教育的相对均衡发展,尤其是要解决乡村学校教师队伍资源配置不均、结构不优,教师整体素质不高和教学能力欠缺等系列问题。如何将工作或任务中优异成绩者和普通成绩者区分开来是解决这些问题的关键所在。胜任力理论能够区分工作在体育教师工作岗位上的表现优异者和普通者,可以针对农村中学体育教师的教