随着自然语言处理相关应用逐渐走向落地,文本分类技术作为其基础技术之一,向来是被广泛研究的对象,提升文本分类的准确率是推进技术落地的重要举措。让计算机来完成文本分类的前提是要使得计算机能够识别文本。文本表示技术就是将文本转换为计算机能够识别的数据。但是在将文本进行转换的过程中会存在信息丢失,从而导致分类有误差,因此,降低文本表示环节中信息的损失也显得至关重要。通过分析当前的文本表示研究现状,发现国内的研究受国外研究影响较大,国外英文文本研究以词作为语义单元,因此国内对中文的研究也多是基于词进行的。但是中文和英文是不同的,汉字经过数千年发展,自身就蕴含着信息。传统的文本分类技术多是基于浅层机器学习技术,随着深度学习的兴起,其逐渐被应用到了自然语言处理领域,尤其是卷积神经网络和长短时记忆网络最具代表性,但是这些网络在文本分类中都具有各自的缺陷。对于文本来说,有序性是十分重要的,但是卷积神经网络提取的文本特征是无序的;突出文本的主要信息是有助于提高文本分类准确率的,但是长短时记忆网络提取的文本特征却是无法突出文本的主要信息。本文通过改进文本表示方式来降低文本表示环节中信息损失,从而提高文本分类准确率。改进的文本表示同时以字和词作为语义单元,在词汇空间和字符空间中使用了基于skip-gram模型的word2vec技术预训练字、词向量。将字、词向量进行组合得到新的文本表示方式并利用机器学习算法对改进的文本表示方式的数据分类。基于改进文本表示方式在机器学习算法上的应用,本文进一步探索改进文本表示方式在深度学习中的适用性,并利用深度学习算法在机器学习算法基础上进一步提升文本分类准确率。一般应用于文本数据的神经网络都是单层embedding层,以单一文本表示数据作为输入,为了在神经网络中使用改进文本表示方式,本文在神经网络中设计了双层embedding层,其中一层以字向量数据作为输入,另一层以词向量数据作为输入。文本是连续性数据,有序性显得十分重要,但是卷积神经网络提取的文本特征是无序的,而长短时记忆提取的特征是有序的;突出文本的主要特征是有助于提高文本分类准确率的,但是长短时记忆网络提取的文本特征却是无法突出文本的主要特征,而卷积网络却能够提取文本主要特征。因此,本文基于卷积神经网络与长短时记忆网络的优缺点进行取长补短设计了三种新的混合网络结构,即C-LSTM网络、lstm-CNN网络以及CNN-LSTM-Parallel网络,并设定了第三个目标,即改进网络在卷积网络与长短时记忆网络的基础上再次提升文本分类准确率。根据实验结果,在机器学习算法以及深度学习算法中,就macro-F1值来说,改进文本表示方式较词向量表示的分类准确率提升了1%左右,在搜狗实验室数据上甚至提升了3%左右,而比字向量表示普遍提升了3%以上。同时,通过对比同一文本表示下的分类结果,深度学习算法的分类准确率普遍比机器学习算法高出1%到2%。在改进的网络中,lstm-CNN网络在所有的文本表示数据中分类准确率均是最高的,其分类准确率较机器学习算法高出3%左右,比卷积网络与长短时记忆网络的分类准确率高出1%到2%,说明该网络很好的结合了卷积网络与长短时记忆网络的优点。