自然语言处理:语言模型

1.语言模型:

自然语言处理:语言模型

2.马尔科夫链:

该词只取决于前n个词,而不是前面所有的词。
k=1:unigram

k=2:bigram

自然语言处理:语言模型
这些概率怎么来算呢?
自然语言处理:语言模型

3.语言模型的意义:

在翻译方面:
语言的结构可能不同,如X1 X2 X3 (我去学校)进行翻译时对应:我 学校 去
那么通过语言模型发现”我去学校“出现的概率应该大于“我学校去”,那么会自动调整翻译为“我去学校”