在信息时代的今天,各式各样大量的短信息数不胜数,包括手机短信、垃圾邮件、问答及推荐系统的留言、购物平台的商品评价等,及时准确的从短文本库中抽取人类所需的信息是目前文本分类领域面临的一大难题;研究快速、灵活、高效、低耗的短文本内容提取策略是当前学术界的发展趋势,有助于提高用户获取有效信息的质量和速度,满足不同部门新闻分类、情感分类、舆情分析的需求。影响文本分类效果的因素有很多,本文主要从特征提取和分类器的选择两个方面来进行改进。本文在研究分析和总结特征选择和深度学习模型Bi LSTM原理的基础上,对运用特征选择和深度学习模型解决文本分类问题做了深入研究,本文的主要研究工作如下:(1)针对传统TF-IDF特征选择函数缺乏语义的问题,本文定义并引入权重系数和长度系数,并结合改进的word2vec模型,构建了融合语义的特征选择函数。其中改进的word2vec解决了传统word2vec只要有冗余的词向量,就会使计算发生差错,从而使整个文本的表达出现差错的问题,提高了准确率。同时改进的word2vec可以通过距离来表征语义相似度,具有一定的语义性,并可以将词映射到低维向量中,避免了维度灾难,提高了准确率。(2)针对短文本长度较短,文本蕴含的信息量较少,深度学习模型易受到干扰导致分类性能差的问题,本文提出一种在双向长短期记忆网络的基础上结合注意力机制和对抗训练的多层级短文本分类模型,双向长短时记忆时间递归神经网络(Bi LSTM)每个序列向前和向后分别是两个LSTM层,弥补了LSTM缺乏下文语义信息的不足。注意力机制(Attention)解决了传统的方法直接把Bi LSTM层每个时刻对应的更新输出向量求和取平均值,导致分类精度不高的问题。对抗训练是一种正则化的方法,可以提高分类模型的鲁棒性。