语言模型是自然语言处理领域的一个非常重要且基础的研究课题,应用在很多自然语言处理任务中,如语音识别,机器翻译,对话系统等。现有的语言模型大体可以分为统计语言模型和神经语言模型两大类,他们各有优缺点,统计语言模型建模要求的参数量过大而难以估计,神经语言模型虽然建模效果较好但又理论性不足。本文提出了一个基于张量空间及张量网络构建的语言模型,并命名为张量空间语言模型(Tensor Space Language Model,TSLM)。在张量空间语言模型中,我们用张量积来捕捉词与词之间的交互信息,并且在此基础上模型能构建一个表达能力更强的语义空间。理论上,我们证明了这样的张量表示是n-gram语言模型的一般形式,另一方面,用张量分解推导了语言建模中的递归的条件概率计算过程。综上,我们提出的基于张量空间的语言模型是一个更一般的语言模型,这意味着统计语言模型和神经语言模型都可以作为张量空间模型的特例。换言之,我们构建的张量空间语言模型统一了统计语言模型和神经语言模型。在语言建模数据集Penn Tree Bank(PTB)和WikiText上的实验验证了张量空间语言模型的有效性。