基于Spark和用户偏好的电影推荐系统设计与实现

来源 :浙江工业大学 | 被引量 : 0次 | 上传用户:dingmx2008
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
互联网的规模随着社会快速的发展而不断扩大,网络数据也在随之呈爆炸式的增长。数据增多必然增加数据获取的难度,信息过载成为了当今互联网急需解决的难题。为了帮助人们快速而准确的获取数据,推荐系统成为了计算机领域中一个重要的研究课题。推荐算法是推荐系统的核心。本文基于推荐算法展开研究,针对协同过滤推荐算法中存在的评分数据稀疏以及算法的可拓展性问题,提出了一种基于聚类和用户偏好的协同过滤推荐算法(CP-UBCF)。CP-UBCF设计了一种基于用户偏好的相似度计算方法,该方法在考虑用户自身属性的同时引入了用户对项目类别的评分和职业对项目类别的评分。同时,为了降低用户-项目评分数据的稀疏性,CP-UBCF设计了一种融入用户偏好的Weighted Slope One算法对用户-项目评分数据的未评分项进行了预测填充。此外,为了提升算法的可拓展性,CP-UBCF在处理评分数据时设计了一种Den-Dis K-means聚类方法。该聚类方法针对K-means聚类初始簇心随机选取而造成的聚类不稳定问题,设计了一种基于密度和距离选取聚类初始簇心的方法。通过Den-Dis K-means聚类方法将用户聚类,缩小了推荐过程中寻找相似用户的搜索空间。最后,在聚类后的数据集里使用基于用户的协同过滤推荐算法生成目标用户的推荐结果。根据Movielens 100K电影评分数据集的实验结果显示,CP-UBCF算法的推荐效果有所提升。本文基于提出的推荐算法,设计并实现了一个基于Spark、Elasticsearch和CP-UBCF的电影推荐系统。该推荐系统在通过CP-UBCF保障推荐效果的情况下有效利用了Spark的大数据计算性能和Elasticsearch的索引性能,符合实际应用场景的需求。
其他文献
目的观察康复新液治疗溃疡性结肠炎的疗效。方法选择2003年6月。2005年12月溃疡性结肠炎病人27例,治疗前电子结肠镜检查确诊,治疗后3个月,复查结肠镜,观察治疗效果。结果治愈11例
古人云:“教人未见意趣,必不乐学”。中学政治是一门集知识、能力、觉悟于一体,对学生进行心理、法律、道德、社会主义常识教育为主的课程,学科本身具有抽象性、严肃性和枯燥性的
发输电系统规划阶段需要评估风电资源对系统供电可靠性的贡献程度,以避免发电侧资源的过度投资。置信容量这一概念正是用于承担这一评估工作。同时,为了降低风电资源不确定性
为探索会话含义在文学作品中的应用,从语用学角度分析《红高粱家族》对话中的会话含义。《红高粱家族》对话中会话含义的产生源于违反合作原则和维护礼貌原则两个方面:违反合
政府和企业的关系及其影响一直是学界关注的热点。政治关联,一般以高管政治背景为代理变量,体现了政企之间的隐性关系,常被认为能为企业带来竞争优势和稀缺资源,有利于提高企
近年来,根据幽门、十二指肠球部有促使小肠平滑肌收缩、调节胃肠蠕动之学说,保留幽门行胰十二指肠切除治疗胰头良恶性病交的病例有所增加。从1991-07/2000-01笔者曾行6例,现报告
从火灾探测器维护和清洗的重要性入手,阐述了火灾探测器清洗过程中应当掌握的方法及注意的的问题.以较好的指导火灾探测器的清洗工作。
环氧树脂复合绝缘材料具有性能稳定、环境适应性强、绝缘性能优良等优点,复合绝缘材料杆塔可增大绝缘距离,大幅提高耐雷水平,还可以减少线路走廊宽度。但复合绝缘材料杆塔自
电子技术的快速发展,为温度测量技术向高精度、集成化发展提供了更多的、更先进的器件选择方案。温度测量电路被广泛应用于工业、农业生产、航空航天、科学研究等领域,也是空
新课程标准实施以来,作业创新改革成为教学改革的重要项目,近几年来,笔者在作业创新改革方面做了一些大胆的尝试,收到了较好的效果。