7、文本分类算法

1、textCNN

   前面介绍过,这里不做赘述

2、TextRNN

   前面介绍过,也不做赘述

3、Attention

   就是在输出之后加了一层attention,感觉大家都已经很了解了,但还是简单说一下,attention就是输出层的s(t-1)与前面所有的隐含层做乘积再softmax,得到一个权重分布的向量,再与所有隐含层相乘叠加得到c(t),然后再根据c(t)、s(t-1)得到一个结果,再全连接。7、文本分类算法

4、Transformer

5、bert

 

 

先写这么多了,明天再细写吧