word2vec Parameter Learning Explained
由word2vec获得的词向量代表可以捕获语义信息
1. Continuous Bag-of-Word 模型
现在只考虑仅一个词的上下文,也就是模型在给定一个词的上下文下仅预测一个目标,这很像一元模型,
后向传播基础:
:输入值,w是权重,y是实数值输出,f叫连接函数,或是activation/decision/transfer
function
由word2vec获得的词向量代表可以捕获语义信息
1. Continuous Bag-of-Word 模型
现在只考虑仅一个词的上下文,也就是模型在给定一个词的上下文下仅预测一个目标,这很像一元模型,
后向传播基础:
:输入值,w是权重,y是实数值输出,f叫连接函数,或是activation/decision/transfer
function