autoencoder 得到的可不可以当做词向量

sdae和rbm是两个不同的模型。再给出文档的co-occurrence matrix后,对每一列使用sdae rbm进行embedding当然是可以的,也可以称作词向量。但与word2vec做的不是一个事情,word2vec的目标函数与sdae的目标函数差别很大,和rbm的目标函数倒是比较相似。一篇paper说明了:word2vec中的skip-gram negative sampling其实是一种没有先验(prior)的rbm。paper标题:Word Embedding Revisited: A New Representation Learning and Explicit Matrix Factorization Perspective


    推荐阅读