基于word2vec的互联网商品评论情感倾向研究-黄仁.pdf

《基于word2vec的互联网商品评论情感倾向研究-黄仁.pdf》由会员分享，可在线阅读，更多相关《基于word2vec的互联网商品评论情感倾向研究-黄仁.pdf（3页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第43卷第6A期2016年6月计算机科学Computer ScienceVol-43 No6AJune 2016基于word2vec的互联网商品评论情感倾向研究黄仁张卫(重庆大学计算机学院 重庆400044)摘要在电子商务蓬勃发展的网络环境下，产品的评论数据已成为企业提高商品质量和提升服务的重要数据源。这些评论中包含用户对产品各个方面的情感倾向，对其进行情感分析可以帮助商家了解产品的优缺点，也能为潜在消费者的购买决策提供数据支持。提出了基于组合神经网络的商品属性聚类及基于word2vec的商品评论情感分析新方法，通过word2vec计算语义相似度，建立情感词典，用构建的情感词典对测试文本进行情

2、感分类。实验验证了该方法在互联网商品评论中的有效性和准确性。关键词word2vec，情感倾向，情感词典，情感分类中图法分类号TP391 文献标识码AStudy on Sentiment Analyzing of Internet Commodities Review Based on Word2vecHUANG Ren ZHANG Wei(Department of Computer Science，Chongqing University，Chongqing 400044China)Abstract With the rapid development of e-commence under

3、 the network environment。product review has become animportant data source for enterprises to improve quality and enhance serviceThe review comprises userS emotionaltendency in all aspects 0f the productEmotional analysis can not only help business to understand the advantages anddisadvantages 0f th

4、e product，but also provide data support for the potential consumerS purchase decisionThis paperpresented a novel method to cluster commodity attribute based on combination neural network and computd sentimentof internet commodities review using word2vecThis essay computed the semantic similarity and

5、 built emotional dictionary based on word2vec，then used the emotional dictionary tO obtain the emotional tendencies of the test textsThe el-fectiveness and accuracy of the method is validated through experimentsKeywm-ds Word2vec。Emotional tendency，Emotional directory，Emotional classification随着互联网电子商

6、务的蓬勃发展，越来越多的人青睐于网络购物。为了提高客户满意度，网络商家通常允许客户对他所购买的商品进行评价，导致商品评价的数剧迅速增长。分析隐藏在这些主观性评论文本中的情感倾向，不仅可以为潜在消费者提供网购指导，而且能帮助生产商和销售商通过反馈信息来改进产品、改善服务，提高竞争力。情感分析就是一种对该类信息进行分类的方法，又称为意见挖掘，是指通过自动分析某种商品评论的文本内容，发现消费者对该商品的褒贬态度和意见_。1 文本情感分析技术目前，文本的情感分析研究内容主要分为3个方面嵋一：文本内容的主客观分类、文本的情感倾向性分类和文本的情感强度计算。其中，本文研究的重点是情感倾向性分类，它的主要研

7、究内容是通过分析主观性文本中的情感词将文本情感分为正面或负面两类。它的研究思路可以归纳为以下两种：1)基于语义的方法。通过统计和分析文本中情感词的褒贬性判断文本的情感倾向。采用的方法主要包括基于语料挖掘的方法3“和基于情感词典的方法。2)基于机器学习的方法。传统的机器学习方法主要应用在文本主题分类，它将k近邻(kNearest Neighbor，KNN)、支持向量机(Support Vector Machine，SVM)、朴素贝叶斯(Naive Bayesian，NB)、最大熵等机器学习方法应用于情感分类。本文提出的商品评论情感分析流程如图1所示。结果分析p-叫情感分析卜叫属性聚类2基于组合神

8、经网络的商品属性聚类众所周知，任何一个词语都有与其相对应的语言环境，即通常所说的上下文6一。如果两个词语之间的上下文越相似，那么它们在应用环境和语义上也越相似。一般地，可以将词语左右各d个词语作为其上下文，或称开辟了一个长度为2d的词语上下文窗口。本文提出了面向商品评论文本的属性自动聚类算法组合神经网络算法，该算法的主要思想如下：黄仁(1962-)，男，教授，硕士生导师，CCF会员，主要研究方向为图像处理、嵌入式应用技术；张卫(1990-)，男，硕士，主要研究方向为数据挖掘、自然语言处理，Email：xiaoweihongye163com。387万方数据1)对评论文本分词时，对分词后的词语进行

9、词性和词频的标注。2)抽选出标注为名词的词语作为候选属性，构成候选属性集。3)由于统计了分词之后的词语的词频，采用哈夫曼编码对每个词语进行编码，以方便计算机处理。4)设置上下文窗口参数，抽取出候选属性集中名词w在文本中的上下文。将词语w作为第一层BP神经网络的输入，词语w的上下文作为第一层神经网络的输出，对BP神经网络进行训练。因为每个候选名词在评论文本中会出现多次，用BP神经网络对这些多次出现的上下文进行训练，最终得到一个最能代表词语w的上下文窗口向量。5)将BP神经网络的输出作为S()M自组织神经网络的输入，进行SOM神网络的学习，最终S()M神经网络的输出即为属性相似的词语的聚类结果。组

10、合神经网络的结构模型如图2所示。图2组合神经网络模型3 word2vec介绍word2vec_j是Google在2013年开源的一款将词表示为实数值向量的高效工具。通过训练可以把对文本内容的处理简化为K维向量运算，而向量空间上的相似度可以用来表示文本语义上的相似度。word2vec输出的词向量可以用来做很多NI。P相关的研究，比如词聚类、找同近义词、词性分析等。word2vec生成词向量的基本思想来自于Bengio提出的NNLM(Neural Network Language Model)，其原理示意图如图3所示。ith output=P(W。=ilcontext)c(w，1)图3 NNI。M

11、原理模型图图3中，每个输入词都被映射为一个向量，该映射用C表示，即C(W。)为词语w，。的词向量。g为一个前馈或递归的神经网络，其输出是一个向量，向量中的第i个元素表示概率P(Wif眦1)，目标是学到一个好的模型：388(t，Wt i，Wt一。+2，Wt一。+1)一p(让lt吖一1)需要满足约束条件：，(让，Wt一1，让一。+2，Wt一。+1)O凹厂(i，Wt 1，让。+2，Wt一。+1)一1f=1word2vec采用包含CBOW(Continuous Bag-Of-Words)和Skip-Gram两种算法利用上下文信息来预测当前词的思想来生成词向量。将文本集作为输入，将每个词对应的生成向量作

12、为输出。通过生成的词向量，可以计算与用户指定词语之间的距离(相似度)。比如用户指定输入“北京”，将显示训练文本中与“北京”最接近的词语以及它们之间的余弦距离。利用生成的词向量，word2vec采用k-means聚类算法可以实现大数据集的文本分类。4商品评论情感词典构建随着互联网的发展，越来越多的网络用语出现在商品评论文本中而且这些词汇不同于现有情感词典中的情感词，但却也表达了情感倾向。因此，有必要构建一个网络情感词典，以提高评论文本情感倾向的准确性。情感倾向判断包括两个部分：情感极性和情感强度8。情感极性表示情感是正向还是负向的，情感强度指的是相应的情感强烈程度。为了便于计算和分类，本文暂不考

13、虑情感强度。用EP表示情感极性，EI表示情感强度，EO代表情感倾向，则一个情感词可以按如下表示：EO(word)一(EP，ED，EP一1，1 (1)集合EP中，一1表示负向情感倾向，1代表正向情感倾向。本文用基于语义的语义相似度计算方法来计算商品评论文本中的词语与情感词典中的词语的距离以判断语义倾向。利用KNN算法将词语的极性划分到与之最相近的k个词语中的大多数词语属于的类别当中。用Pos表示具有正向情感极性的词语的集合，Neg表示具有负向情感极性的词语的集合。SD(zzvrdl，word2)表示wordl与zeord2之间的语义距离：EO(word)一 SD(word，poszoord)一

14、如AmP05 newaorkdE-NegSD(wordnegword) (2)我们将0作为分类正向极性和负向极性情感的阈值。EO(word)0时，word的情感极性为正向，EO(word)0时，情感极性为负向。在实验中，通过网络爬虫软件在某电子商务网站上爬取了54368篇商品评论的真实文本。将爬取的文本经过中文分词处理之后，用50的文本作为训练集训练word2vec。经过word2vec训练之后，能得到每个词语的向量表示，计算两个向量的余弦值来表示两个词语的语义相似度距离，余弦值越大，表示两个词语的语义越相近。例如两个九维向量n(z9212，乩。)和b(x2l，z22，工2。)，余弦值的计算公

15、式如下：cos(O) (3)构建中文商品评论情感词典的步骤如下：1)应用50的文本训练word2vec，得到词语W(EP，E1)万方数据的向量表示并将其存入vectorbin文件中；2)如果能在情感基准词典中找到词语W，则可直接跳入步骤5)标注w的情感极性；否则，跳入步骤3)；3)在word2vec中执行“distance vectorbin”获取与词W最接近的20个词，在扩展情感词典中查找与w最接近的20个词语；4)用式(1)计算S0一SD(W)并判断SO(W)P的极性值：SO(W)PSO(与向量w的余弦值最大的词)P；5)将W存人商品评论情感词典中。5商品评论情感分析在一篇真实的商品评论文

16、本中的句子不仅包括情感词，而且也包含了一些如程度副词、感叹词、否定词等影响判断情感词极性的因素。因此，判断商品评论文本的情感倾向需要借助构建好的商品评论情感词典、HowNet中的否定词词典和程度副词词典。商品评论文本绝大多数由较短的句子构成，我们将评论文本中的句子表示为S。，Sz，S。每个评论句子中的情感词表示为w。，wz，w。句子S的情感极性表示为：EO(S，)一EO(Wi) (4)其中，EO(W：)表示词W：的情感极性。如果情感词w：前面的否定词的个数为奇数个时，则应该倒置眦的情感极性。例如若w，的情感极性为正向，则此时应该变成负向。6实验与分析利用网络爬虫工具从、n】lrwjdcorn网

17、站上爬取54368篇关于某智能手机的评论文本。进行分词和去停用词以及词性标准处理之后，将标准为名词的词语作为候选属性集，利用组合神经网络进行聚类。随后将50的文本用于训练word2vec，剩下的50的文本作为测试商品情感分类的测试集。评估文本分类的主要指标有准确率1、召回率及F1值，具体计算公式如下：声rPf妇io刀一*100 (5)recall=卑i00 (6)a寸-fF，一堕尘粤磐掣(7)preczszonrecall其中，a表示分类器正确判断文档类别归属此类的数目；b表示分类器错误判断文档属于该类但实际不属于的文档数目；C表示分类器错误判断文档不属于该类但实际属于的文档数目。图4商品评论

18、情感分析结果表1基于word2vec的商品评论情感分析结果堡堕垩正向极性087负向极性086塑堕垩 !篁085 086083 084从图4中可以看出，本文提出的基于组合神经网络的商品属性聚类方法的效果，从表1中能看出基于word2vec的商品评论情感分析针对正向和负向情感的情感词都有比较高的准确率和召回率，证实了本文提出的方法在判别商品评论文本情感倾向上的可行性。结束语本文提出了基于组合神经网络的商品属性聚类与基于word2vec和计算情感倾向相似度(SO-SD)的方法来进行中文商品评论情感分析。用真实商品评论文本训练word2vec，再用测试文本集对所提模型进行测试。结果表明了本文提出的方法

19、的有效性和准确性。由于本文提出的方法中没有考虑到中文比较性的句子的情感极性及情感强度的判断，因此，对文本中比较性的句子的情感倾向判断以及情感强度的研究是本文后续工作中的一个重点。参考文献张紫琼，叶强，李一军互联网商品评论情感分析研究综述J管理科学，2010，13(6)：8496钟将，杨思源，孙启干基于文本分类的商品评价情感分析研究口计算机应用，2014，34(8)：23172321Kim S MHovy EDetermining the sentiment of opinionsCfProceedings of the 20th international conference on Comp

20、utational LinguisticsAssociation for Computational Linguistics，2004：i3671373Fellbaum CWordNet：An Electronic Lexical DatabaseMBradford Book，1998Esuli A，Sebastiani FSentiwordnet：A publicly available lexicalresource for opinion miningcProceedings of LREC2006(6)：417-422Yi J，Nasukawa T，Bunescu R，et a1Sen

21、timent analyzer：Extracting sentiments about a given topic using natural language processing techniquesCThird IEEE International Confe-renceon Data Mining，2003(ICDM 2003)IEEE，2003：427434唐小丽，白宇，张桂平，等一种面向聚类的文本建模方法J山西大学学报(自然科学版)，2014，37(4)：595600Baumgarten M，Mulvenna M D，Rooney N，et a1KeywordBasedSentim

22、ent Mining using TwitterJInternational Journal ofAmbient Computing and Intelligence(UACI)，2013，5(2)：56699Turney P D，Littman M L Measuring praise and criticism：Inference of Semantic Orientation from AssociationCProceedings Of ACM Transactions on Information Systems，2003NewYork，USA，2003：31534610Yuan Cheng-xiang，Zhuang Yi，Li Hao-hongSemantic BasedChinese Sentence Sentiment AnalysisC2011 Eighth International Conference on Fuzzy Systems and Knowledge DiscoveryIEEE，201 l：20992103389跚嘲嘲嘲嘲万方数据