7、文本分类算法
1、textCNN
前面介绍过,这里不做赘述
2、TextRNN
前面介绍过,也不做赘述
3、Attention
就是在输出之后加了一层attention,感觉大家都已经很了解了,但还是简单说一下,attention就是输出层的s(t-1)与前面所有的隐含层做乘积再softmax,得到一个权重分布的向量,再与所有隐含层相乘叠加得到c(t),然后再根据c(t)、s(t-1)得到一个结果,再全连接。
4、Transformer
5、bert
先写这么多了,明天再细写吧