【摘 要】
:
语言模型在很多人工智能领域都是一个基础的研究主题。近年来,受量子理论启发,在信息检索领域种提出了一种量子语言模型。量子语言模型通过量子理论中的密度矩阵建模句子中的
论文部分内容阅读
语言模型在很多人工智能领域都是一个基础的研究主题。近年来,受量子理论启发,在信息检索领域种提出了一种量子语言模型。量子语言模型通过量子理论中的密度矩阵建模句子中的词项依赖,相比于传统的n元语言模型,能够在不增加模型参数的情况下表示出任意长度的依赖关系。然而在量子语言模型中,词项的表示是由one-hot得到的,只能建模局部的依赖。量子语言模型中的密度矩阵的求解是通过迭代过程估计得到,表示和匹配过程是分开的,因此不能从整体上寻找最优解,这限制了在其他相关任务上的应用。为了扩展量子语言模型的理论和应用基础,本文提出了一种基于神经网络的量子语言模型,并将其应用于问答任务中。将一个句子看作是一个量子系统,在神经网络中根据word embeddings构造句子的密度矩阵表示,然后得到问答对的联合表示,利用卷积神经网络从联合表示中提取出来的特征,来判断问句和答句的相似度。与原始的量子语言模型相比,这是一种端到端的模式,能更充分地利用大数据的优势,并且在效果上得到了很大的提升。在TREC-QA和WIKI-QA这两个数据集实验结果验证了本文模型的有效性。
其他文献
党的十九大报告中指出:文化是一个国家、一个民族的灵魂。文化兴国运兴,文化强民族强。中国特色社会主义文化,源自于中华民族五千多年文明历史所孕育的中华优秀传统文化,植根
中冷器是增压柴油机必不可少的部件,中冷器承担把压缩后的高温气体冷却的任务,热负荷分析是设计中不可或缺的环节。本文针对国外一型多台柴油发电机组的中冷器螺栓频繁断裂的
<正>信息爆炸时代中个体认知的"信息茧房"会给获取信息的个体造成视屏障碍。西方学者桑斯坦在《信息乌托邦》一书中指出,人们由于习惯性地将自己包裹在由兴趣引导的信息领域,
但凡有所作为的企业,都有求真务实的基因所在。两年前,雷沃重工16岁,进入工程机械行业10周年,本刊曾对雷沃重工董事长王桂民进行过专访。尽管在中国工程机械行业,雷沃早已成
将诱导轮离心泵的工作原理引入高比转数的大型立式轴流泵中,用以防治轴流泵汽蚀.说明了采用诱导轮的依据,重点分析了轴流泵诱导轮的结构以及轴流泵带诱导轮后对泵的汽蚀和能量特
由于投运变电站数目的倍增,电网规模愈来愈庞大,网架结构愈来愈复杂,体现电网状态的信息也愈来愈庞大。因此如何将电网的原始数据以直观更方便的形式呈现给调度员,从而提高调
“小说留白”是普遍且重要的创作技法,也是有待深层观照的美学概念。本文基于对中西方运用留白手法的代表性小说的文本分析,由外及内,由表现及根源,在体验探索小说留白美学机制的同时,追溯小说创作背后的种种客观及主观因素,并阐述了各类型小说留白的审美效果,力求系统化呈现小说留白形式特点及美学意义。小说留白的第一种类型是抑制性留白。就客观信息留白而言,契诃夫致力于选择性的细节描写,细节必须典型化和力求真实,才
陈兰明,上海海洋大学教授,硕士生导师,上海高校特聘教授(东方学者)。1995年获南京农业大学微生物学理学博士学位,1996—1998年复旦大学遗传学研究所博士后流动站博士后。2000—
前言 半球型谐振式陀螺仪(HRG),是目前国外一种很有发展前途的高精度角速率陀螺仪。从近三十年探索的所有振动陀螺的情况看,半球谐振式陀螺仪是当前速率捷联制导系统中最理
电视剧《那年花开月正圆》是一部收视率与口碑双高的影视佳作。透过周莹传奇的经商经历,我们可以领略到她的经营之道,这对于我们教学"企业的生产经营"和"发展社会主义市场经济"相