Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读

本文作者:合肥工业大学 管理学院 钱洋 email:[email protected] 内容可能有不到之处,欢迎交流。
未经本人允许禁止转载

论文来源

论文来自于自然语言处理会议ACL
Jagarlamudi J, Daumé III H, Udupa R. Incorporating lexical priors into topic models[C]//Proceedings of the 13th Conference of the European Chapter of the Association for Computational Linguistics. Association for Computational Linguistics, 2012: 204-213.

这篇论文中,提供了三个模型,都是交互式主题模型,该篇论文的模型在一些管理学*期刊上的论文中,皆有看到。例如:
Puranam D, Narayan V, Kadiyali V. The effect of calorie posting regulation on consumer opinion: a flexible Latent Dirichlet Allocation model with informative priors[J]. Marketing Science, 2017, 36(5): 726-746.

Toubia O, Iyengar G, Bunnell R, et al. Extracting Features of Entertainment Products: A Guided Latent Dirichlet Allocation Approach Informed by the Psychology of Media Consumption[J]. Journal of Marketing Research, 2018: 0022243718820559.

应用场景及模型

交互式主题模型,个人认为只适应于科研领域,对于工业领域肯定不行。原因是其需要用户提供一些内容,例如种子词汇。但对于科研来说,其优势很大,主要是其可以使获得的主题更具意义,更有说明性(这对论文的创新点很有帮助)。

第一个模型

在作者的论文中,一共提供了三个模型。
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
这是第一个模型,其可以对每个主题的词汇初始化,即设置一些词汇(主要针对的是主题词分布)。模型的生成过程较为简单,如下图所示:
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
在这里需要注意的是,主题模型产生的主题数目并不是2T2T,而还是TT个主题。即下图标红的地方最后还是要合并的。
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
合并公式如下:
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读

第二个模型

第二个模型,针对的是文档的主题分布。模型如下:
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
其生成过程如下:
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
这里一个非常重要的点,是引入了group的概念。

第三个模型

Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
作者的第三个模型是前两个模型的结合体。

模型应用

该模型,在18年被应用到管理学顶刊上,如下:
Toubia O, Iyengar G, Bunnell R, et al. Extracting Features of Entertainment Products: A Guided Latent Dirichlet Allocation Approach Informed by the Psychology of Media Consumption[J]. Journal of Marketing Research, 2018: 0022243718820559.
其主要动机如下:
Incorporating Lexical Priors into Topic Models(即交互式主题模型的应用)论文阅读
即利用第一个模型,生成娱乐产品的主题词分布。在应用模型的过程中,作者使用了心理学的内容,即主题和种子词汇来源与正向心理学划分。使用该模型,可以得到每个电影的主题分布,之后作者利用这个主题分布,来作为content-based/hybrid方法的输入。