基于深度学习的文本情感分析算法研究_开题报告

一、文献综述

查找^范文相关文献，介绍本论题目前研究现状、研究成果等内容。

（一）选题背景与研究意义

 1、选题背景

随着移动互联网的发展，涌现有如facebook等社交平台和淘宝为首的电子商务平台的发展，产生了大量的文本数据，其中大部分来源于网友的评论和情感宣泄，在今天世界各地的互联网用户在网上发表自己的意见、表达情感已变成朋友之间相互沟通的一种方式，通过电商平台的兴起，大家习惯于在网上购买东西，进而产生了大量的产品评论数据，以及其他的数据，在这个数据为王的时代，这些顾客对产品和服务的评价意见，对于企业产品的质量提升和营销策略的制定，起到重要的作用。对于政府来说，要关注互联网上的中国几亿网民，要时刻了解公众的意向和社会舆情，方便采用适当的方式处理。考虑到传统采用抽样的方式，这种低效率的方式，已经不再适合现有的市场需求，越来越多的人已经开始研究利用自然语言处理技术，对网上的海量文本进行分析，来挖掘其中内在的情感倾向。

研究意义

当前，基于文本情感分析的方法主要有两种，一种是基于情感词典的方法，另一种是基于机器学习的分析方法。基于情感词典的方法主要是应用情感词典中记录的词语和短语的情感倾向和强度来对文本进行情感分析，这种方法的有点在于利用高质量的情感词典，缺点在于覆盖不足，因为情感词典往往是手工完成的，模型的准确率很大程度上依赖于词典，特别是一些新词的出现，对分类器性能影响很大。而基于机器学习的情感分析有点在于具有多种特征建模的能力，使用人工标注的数据有监督的训练机器学习模型，缺点在于特征的选择具有偶然性，以及训练预料的不足都会影响情感分析系统的性能。

基于神经网络的深度学习技术是当前机器学习领域的热点，近年来随着深度学习的不断成熟，在很多领域都取得了成功，其中卷积神经网络、循环神经网络、双向循环神经网络、注意力机制等技术在nlp领域取得了不错的成功，这主要取决于深度网络结构的表达能力强，可以自动的抽取文本中的抽象特征，

国内外研究现状

到目前为止，现有情感分析方法中大部分是使用词袋（Bag of Words，BOW）模型进行文本的表示，这种方法也叫做词语的One-hot Representation。尽管很流行，但是存在着缺点

（1）没有考虑词语的含义

（2）忽略词语的语义信息，

（3）数据稀疏问题，因此近年来分布式向量表示成为一个研究热点。

有关于深度神经语言模型中的词语分布式表示最早由Rumelhart等人在1986年提出的。紧跟着Bengio等人在2006年用神经网络训练词语的分布式向量表示。Socher等人在2013年提出使用递归神经网络进行文本情感分析的算法。2014年Kim提出了基于卷积神经网络的文本情感分析模型，2015年发表的Document Modeling with  Gated Recurrent  Neural Network for Sentiment Classification。2016年LabROSA等人提出了feed-forward networks with  attention can  solve some long-term memory  problems 。

二、^范文提纲

1 文本情感分析及深度学习相关技术，相关研究现状概况及主要研究内容

研究的目的，当前研究存在的问题

深度学习相关技术在文本分析中的主要研究内容

深度学习在语言模型、分布式向量表示和文本情感分析的相关技术分析和总结

深度学习在语言模型中的使用

深度学习在分布式向量表示的使用

深度学习在情感分析中的使用

循环神经网络在文本情感分析中的使用

LSTM在文本情感分析中的使用

Bi-directional LSTM在文本情感分析中的使用

BI-LSTM-attention 在文本情感分析中的使用

卷积神经网络在文本情感分析中的使用

基于char的CNN在文本情感分析中的使用

基于word2vec的CNN在文本情感分析中的使用

对于卷积神经网络和循环神经网络在文本情感分析模型进行设计和实现，并使用NLPCC-SCDL评测数据集对提出的模型进行分类性能评估。

5.1 卷积神经网络在文本情感分析模型进行设计和实现

5.2 循环神经网络在文本情感分析模型进行设计和实现

5.3 使用评测数据对模型分类性能进行性能评估

6   结论

6.1  对包含内容进行梳理和总结

6.2  对未能解决的问题进行分析和归纳

三、参考文献

[1]Y.Bengio, R.Ducharme, P.Vincent.  2003. Neu-ral Probabilitistic Language Model. Journal of Machine Learnning Research 3:1137-1155 

[2]Wang Y, Li Z, Liu J, He Z, Huang Y, Li D. Word Vector Modeling for Sentiment Analysis of Product Reviews[C] Proceedings of Natural Language Processing and Chinese Computing, 2014: 168-180

[3] Martin Arjovsky, Amar Shah, and Yoshua Bengio. Unitary evolution recueent neural networks. arXiv:1511.06464, 2015

[4]Sepp Hochreiter. Long short-term memory. Neural computation, 9(8): 1735-1780, 1997

[5]Yom kim, Convolutional Neural Networks for Sentence Classification:arXiv:1408.5882v2, 2014

[6]Jiuxiang Gu. Recent Advances in Convolutional Neural Network. arXiv:1512.07108v6, 2017 

[7]Huayu Li, A Context-aware Attention Network for Interactive Question Answering.arXiv:1612.07411V2,2017

[8]TANG D, QIN B, LIIU T. Document modeling with gated recurrent network for sentiment classification[C]Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing. 2015: 1422-1432

[9]赵妍妍，秦兵，刘婷. 文本情感分析[J]. 软件学报，2010，21(8):1834-1848.

[10]王元卓，靳小龙，程学旗.网络大数据:现状与展望[J]。计算机学报，2013，36(6):1125-1138.