随着神经网络算法和分布式并行计算技术的迅速发展,文本的表示问题又重新回归到人们的视野中。作为自然语言处理的基本问题,如何有效表征人类抽象复杂的语言一直是不可逃避的难题。近年来,随着互联网数据呈指数形式增长,令这一问题更加凸显。基于神经网络的词的表示学习旨在以词为最小单位来解决该问题,该类模型不仅充分利用大语料的信息,还通过各种优化手段降低训练时间复杂度,使人们能够方便地获得保留语义语法信息的表示向量,为自然语言处理的其他任务建立了良好的特征基础。词向量在信息检索,情感分析,机器翻译等任务取得了不错的成绩,但是仍然有提升空间。基于此背景,本文进行了一下工作:第一,本文研究了词的表示学习方法及优化策略,提出了多特性融合的词向量的优化方法,实现了先验的词性信息,位置权重因子,段落向量相融合,在词类比测试比原模型准确率提高了两个百分点。第二,本文还发现了词向量反义词区分能力上的不足,调研分析了区分因素,在同反义词集合上验证了模型的区分能力。第三,本文在Skip-gram模型的基础上提出和实现了在线学习多义词模型,对词学习多个语义对应的向量,并且再次融合多特性以进一步提升的多义词模型的效果,获得了与当前最优结果比肩的效果。