特定主题或特定情感下的文本生成

特定主题或特定情感下的文本生成

1. Topic Aware Neural Response Generation(2017)

提出了TA-Seq2Seq模型。

其中TwitterLDA很有用，它是短文本最优的主题模型。TwitterLDA假设：每一条信息只于一个主题有关，信息中的每个词要么是背景词要么是这条信息下的主题词。

联合注意力机制：

• Message attention：最后融合成上下文向量$c_t$ct​；
• topic attention：首先通过TwitterLDA学习到词的主题分布向量表示，然后确定信息中主题词所在的主题，然后找到这个主题下的topic words，然后利用topic words、最后的隐状态$h_T$hT​和$S_{i-1}$Si−1​将这些信息融合到topic vector $o$o 中！

2. Affect-LM: A Neural Language Model for Customizable Affective Text Generation(2017)

提出了Affect-LM模型。

具体如下：