基于统计学方法的朝鲜语大数据文本挖掘研究

来源 :延边大学 | 被引量 : 0次 | 上传用户:yyzw98
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
我们现在所生活的是高速运行、时刻在向前发展的社会环境,科技的不断创新将我们带进了一个全新的大数据时代,发达的科技不仅仅日益丰富着人们的生活乐趣,同时将人们之间的关系进行了还原,心与心的距离缩小了,更重要的是改变了人们的沟通方式。大数据作为现代科技环境的中心,是一种极其重要的资源,大数据顾名思义当然是数据量“巨大”,但真正的价值不是它的大,而是它内在所包含的信息,那些可以被有效利用起来的信息,使之逐渐变成有意义的时代产物。如何发现这些信息是有价值的可以被人们使用的呢?那么就要通过文本挖掘技术来探究,文本挖掘是由机器学习、并行计算、统计学、数据挖掘、自然语言处理、概率、图论等各个学科相互融合的,涵盖着以上学科的精华,基于此就是文本挖掘被许多学者和专家进行研究的原因所在,融合了多种学科和技术,不存在明显的学术限制,可以使得各个领域的学者进行交流合作与探讨。由于朝鲜长期实行信息的封闭政策,官方的各种统计数据都零散的存在于各类文献资料或是新闻报道中,这给朝鲜半岛问题的系统研究带来了诸多不便,基于统计学方法的朝鲜语大数据文本挖掘研究就是要解决此类问题。本研究选取的新闻数据共计约500万条,其中朝鲜语数据150万条,中文数据350万条,将这些数据导入进Transwarp Data Hub,即一个功能较为完善周全的大数据综合平台。进行数据清洗与转换、文本预处理与分类、建立朝鲜新闻专属词库和更新朝鲜语语料库等关键步骤,通过服务器中的R Studio应用统计学知识进行文本挖掘的相关研究,根据朝鲜半岛的资料及具体问题的特征建立分析模型,结合各种已成熟的算法以实现朝鲜语大数据文本挖掘,其中关键环节是朝鲜语语料库的更新和朝鲜新闻专属词库的建立,对有关朝鲜专属语料的添加、更新、编辑、剔除等工作,更新后的语料库与建立的朝鲜新闻专属词库为基础,在词性标注方面有了更高的一致性,并对得到的结果进行具体分析,最终的研究结果可以为人文社科类学者在研究朝鲜半岛诸多问题上提供强有力的数据支撑和理论支持。
其他文献
目的:探讨影响无抽搐电休克(Modified Electroconvulsive Therapy,MECT)治疗精神分裂症患者疗效的相关因素,为今后MECT制定方案提供参考依据。方法:对无锡市精神卫生中心2015
当今在中国掀起的广场舞热,涉及对象广泛,开展方式灵活多样。运用文献资料法、问卷调查法及访谈法等,对贵阳市社区广场舞开展现状分析,发现贵阳市广场舞的参与人群逐渐向中青
马尾松具有经济价值高和适应性高的特性,因此它经常被选作为荒山造林的树种。但是,由于人们长期以来对马尾松的乱砍滥伐等过度开发行为,造成了马尾松林资源受到严重破坏。因此,选
目的探讨血尿酸(SUA)水平与糖尿病周围神经病变(DPN)的关系。方法以448例2型糖尿病(T2DM)患者为研究对象(男289例,女159例),根据SUA四分位法对患者进行分组,其中男性:Q1组(SU
福建省建阳第一中学始创于1919年,后因战乱、经费等原因数次停办、复办,1941年恢复办校,至今已历70余载。建阳一中是一所历史悠久、环境优美、设施完善、师资力量雄厚、教育
在当前这个技术进步并快速发展的时代,企业面临外部环境的动态可变,这样对企业来说,直接造成了严重的竞争压力。目前企业在发展过程应具有对市场发展、变化的把控能力是非常
<正>听取和审议"一府两院"专项工作报告是宪法和法律赋予各级人大常委会的一项重要职权,是地方人大常委会行使监督权的基本形式和主要途径,也是提高人大常委会会议质量乃至整
太赫兹无损检测技术已经在检测金属,陶瓷,复合材料,生物体等方向上有了很大的进展,但是相比于其他传统检测方式,其成像技术还并不成熟,也远远没有达到工业化应用的要求,因此
自从我国第一支可转债基金发行以来,可转债基金市场发展迅速。基金公司凭借专业的研究和优秀的投资团队,募集资金统一投资于可转债市场,可以在很大程度上降低信息搜集成本、研究成本和交易成本,从而获得规模收益。2019年以来,由于权益市场行情的回暖,可转债基金平均收益率超过10%,可转债基金日益受到投资者的追捧,但是我们在关注其投资价值时,不能忽视其风险损失的可能性。VaR模型可以度量金融资产在给定持有期和
目的:探讨胃癌组织中转录因子E2F-1、E2F-3的表达情况及其临床意义以及两种表达间的相关性。方法:采用免疫组化技术(S—P法)对55例人原发性胃癌癌组织与癌旁正常粘膜中E2F-1、E2F