Aspect Level Sentiment Classification with Deep Memory Network笔记

论文: Aspect Level Sentiment Classification with Deep Memory Network
代码：https://github.com/ganeshjawahar/mem_absa

这篇文章主要针对aspect level sentiment analysis. 借鉴了MemN2N，在Sem-Eval的laptop和restaurant两种数据上，跑出的结果与基于SVM的模型差不多的结果，LSTM和attention-based LSTM效果要好。

给定一个句子s={w1,w2,...,wn}， aspect word wi. 首先将context words 用embedding matrix 表示成词向量{e1,e2,...,en}，将aspect word wi表示成vaspect, 作者使用了location attention：定义vj表示word wj在句子中距离aspect word的距离。作者考虑了四种location attention 方式，最后实验结果表明Model2更好：mi=ei⊙vi，其中vi=1−li/n， li是单词wi的位置。

每一个hop的计算方式如下：

g i = t a n h (W a t t [m i; v a s p e c t] + b a t t)

α i = s o f t m a x (g i)

v e c = \sum i = 1 k m i α i

在MemN2N中队context用了两个不同的embedding matrix，这里同样可以使用两个，一个用来计算αi，另一个用来与αi作attention.

最后的结果如下图：
Aspect Level Sentiment Classification with Deep Memory Network笔记

Aspect Level Sentiment Classification with Deep Memory Network笔记

相关推荐