###Xin Rong的 论文《word2vec Parameter Learning Explained》
CBOW
Skip gram
H softmax
negative sampling
【CBOW】
【single word 】
给出一个context,预测一个目标word
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzI4NS85YWJjZjEzZTBkMjI1YTExNDQ0NjY4YzQ4ZWVjODMxZC5wbmc=)
inputs:one-hot编码,也就是{x1```xv}中只有一个1,其余是0
【input 计算 hidden】
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzU0NC8xNmQ3ZDEwNTNjY2Q5MGMyMDIxNTllMGZjZDNlOWY4MC5wbmc=)
【hidden 计算 output】
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzI2My85YTY1NWJlZDlmNjU2M2VjMDk4NTBkZDM5NTcwZTAyNy5wbmc=)
【output 到 损失函数】
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzQzNS8wNDJiMDUwMGExMDIyYmVlMzE0ZDg5YTY2MGIzYTYxMy5wbmc=)
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzcyNC9lNjA0NjRjZTVhMWJhOTlhNTU2NTIwMjkxMTAwYzQ4NC5wbmc=)
【Multi-word】
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzEyMi9mYTNmZjQ2OTI5ZGYxYjk5ODYxNzcxMmU0ZTQ1YmEyYS5wbmc=)
![论文《word2vec Parameter Learning Explained》笔记 论文《word2vec Parameter Learning Explained》笔记](/default/index/img?u=aHR0cHM6Ly9waWFuc2hlbi5jb20vaW1hZ2VzLzk1My9kODY1MDMzYmU0MThmNmQ4MWIwNGM4OWZlZDgwNjg3OS5wbmc=)
未完待续····