随着信息技术的不断发展,网络渐渐成为人们倾诉情感的重要场所,针对情感倾向的研究被人们广泛关注。在过去的情感分析研究中,较为传统的机器学习方法有KNN、朴素贝叶斯及SVM等算法,虽然这些传统算法的性能优良,但往往需要借助人力进行大量的特征标注,并且不具备较好的拓展性。而深度学习在最近几年被广泛地应用在各种自然语言处理的任务里。如CNN利用不同的卷积核提取局部特征进行情感分析,LSTM以及它的众多变体解决了句子中单词之间的时间关系以及单词之间的交互性,可以更好地对文本进行情感分析。这些方法尽管具有较高的准确率,但对于句子的层次结构建模结果并不理想。语言虽然看起来是一个序列,但内部具有复杂的层次结构,这意味着即使语言序列看起来相同,但因其内部层次结构的不同而有语义的差别。因此有必要将语言的层次结构融入到模型的训练过程中,从而让模型具有更加强大的表征能力。本文以情感分析和文本相似为主要研究出发点,构建有序神经元LSTM模型和有序神经元LSTM自注意模型来进行文本分析。本文的主要工作:（1）传统的RNN模型总是将句子建模成序列,而现实中一句话中词与词之间的关联其实是一颗语法树的形式,RNN模型便没有建模这种层次结构的能力。换言之,LSTM以及普通的神经网络都没有用到神经元的序信息。使用改进的LSTM网络通过神经元经过特定排序,将层级结构（树结构）整合到LSTM中去,从而允许LSTM能自动学习到层级结构信息,从而能够表达更丰富的信息。增强对语言层次结构进行建模,提高了文本语义分析能力。（2）采用注意力机制更好地构造文本的时序信息结构,更好地对距离较远的相关文本情感信息进行学习,避免产生长依赖问题,即对于之前时间上的一些结点会产生感知力弱化的现象,降低对文本情感分析造成性能上的损失。（3）在独立组件（IC）层中结合了批归一化机制和Dropout机制技术,以能够提升模型的收敛速度和泛化性能。本文的创新点包括:（1）针对自然语言文本情感分析中忽略文本层次结构信息的问题,提出一种基于有序神经元LSTM的短文本相似性检测方法。解决忽略文本层次结构信息的问题,使模型能够获得更高抽象水平的层次表示,模拟语言构成效果,提高了文本语义分析能力。（2）提出了一种基于有序神经元LSTM自注意的情感分析方法。采用Attention解决短距离依赖的“局部编码”问题,从而对输入序列建立长距离依赖关系,避免产生长依赖问题,提高并行效率,从而优化模型,提高准确率。（3）结合Dropout和批归一化技术,降低任意一对神经元之间的交互信息和相关系数,提高收敛速度。