随着社会经济的快速发展和科学技术的进步,生产生活中每日产生的数据量逐渐超出了已有工具可以处理的规模。如何从海量的可用数据中提取到有价值的信息,以及如何为用户的查询提供更为匹配的答案,成为了信息检索领域一个亟需优化的热点问题。虽然,对于同一查询和文档对的描述多种多样,但若想找到更匹配的答案,核心在于如何更好的理解查询和文档所表达的含义。从深度学习的角度来说,即如何将它们表示为更富含意义的向量形式。已有的相关实践证明,词嵌入向量相比于传统的词袋模型可以提供更加丰富的信息。然而,传统的word2vec、fasttext等词向量模型无法解决根本性存在的一词多义问题,基于卷积神经网络和循环神经网络的模型又无法有效的对长距离的上下文进行建模。2018年之后,以BERT为代表的众多基于Transformer的预训练模型通过在大规模的语料库上执行多种预训练任务进行语言建模,由此得到的语言模型有效的解决了前面提到的问题,为信息检索和自然语言处理领域中的诸多问题打开了一扇新的大门。但是,由于预训练模型对于输入长度的限制,相关模型在处理长文档时稍显乏力。如何在算力和推断时间的限制下,更好将BERT应用于信息检索领域中针对于长文档的检索任务,本文提出了一种为长文档构建相对重要性标签的方法,以及重要性段落识别模型IPRM和文档重排序模型Lt BERT构成的两阶段检索模型。首先,利用选择的重要性度量方式标注长文档划分后的段落,从而生成长度合适的数据集。接着,IPRM根据生成的数据集训练得到的模型,可以关注到未知长文档中相对更加重要的段落。另外,通过修改IPRM的输入形式,使其可以更好的感知标题和段落词项之间的位置关联。最后,Lt BERT相比于单纯的BERT可以更好的利用词向量信息,使得模型在文档重排序任务中的效果得到一定程度的提升。实验部分将分别在Robust-04和Clueweb-09数据集上进行,由MAP、n DCG@20和P@20评价指标的结果证明了整体思路的合理性和模型的有效性。