随着大数据时代的到来,互联网中涌现了大量文本信息。为了挖掘海量文本信息的价值,研究者们提出了一系列自然语言处理任务。词语作为文本的基本单元,建立有效的词表示是各种自然语言处理任务的基础。词向量技术能够有效地建模词与词之间的语义关系并提高下游自然语言处理任务的性能表现。虽然现有的词向量方法取得了巨大成功,但是已有的词向量提取方法在大词表词向量提取问题以及新词词向量提取问题上都存在计算效率低的问题。因此,本文将着重改进词向量提取方法的计算效率问题。针对大词表词向量的提取效率问题,本文提出了一种基于矩阵采样的词向量快速提取方法（WEQ）。目前词向量提取方法主要分为两类:基于神经网络的方法和基于矩阵分解的方法。现有的方法大多集中在提高词向量的性能表现上。然而在大词表的场景下,不论是基于神经网络还是基于矩阵分解的词向量提取方法的计算成本都很高。本文提出的WEQ方在基于矩阵分解的框架下通过L2范数矩阵采样从冗余巨大的原始信息矩阵中采样出包含主要语义信息的核心信息矩阵（Q-contexts矩阵）,从而降低需要进行矩阵分解的矩阵规模来避免高昂的计算开销。本文通过理论及大量的实验证明了WEQ方法能够提取得到性能表现较佳的词向量的同时极大地提高大词表的词向量提取效率。针对新词的词向量提取问题,本文提出了基于语义空间复用的新词词向量提取方法（MF-OOV）。随着新的语料库不断出现,模型将面临一些新词。这些新词不能够在已有的词向量中检索得到,同时新词的上下文句子数量非常有限。因此,如何在有限的新词相关上下文的情况下学习新词的词向量是一个重要的研究课题。已有的新词词向量计算方法主要有以下两类:1.无参数学习方法;2.有参数学习方法。目前无参数学习的方法无法有效地学习到复杂的语义空间转换关系。虽然近期提出的有参数学习方法能够获取性能表现较好的新词词向量,但是该方法需要昂贵的计算成本。本文提出的MF-OOV方法通过复用已有词向量计算过程中的语义空间映射关系能够计算得到与已有的词向量在同一语义空间的新词词向量,同时该方法的算法复杂度极低。实验结果证明了MF-OOV方法的有效性与高效性。