什么是Kerasembedded?

Keras文件不清楚这实际上是什么。 我知道我们可以使用它来将input特征空间压缩成较小的一个。 但是从神经devise的angular度来看,这是如何完成的呢? 它是一个自动禁止者,RBM吗?

据我所知,embedded层是一个简单的matrix乘法,将单词转换成相应的单词embedded。

embedded层的权重具有形状(词汇量,embedded维度)。 对于每个训练样本,其input是整数,代表某些单词。 整数在词汇量的范围内。 embedded层将每个整数i转换成embedded权重matrix的第i行。

为了快速做这个matrix乘法,input整数不是作为一个整数列表存储,而是作为一个单独的matrix。 因此input形状是(nb_words,vocabulary_size),每行有一个非零值。 如果你乘以embedded权重,你得到的形状输出

(nb_words, vocab_size) x (vocab_size, embedding_dim) = (nb_words, embedding_dim) 

因此,通过简单的matrix乘法,可以将样本中的所有单词转换为相应的单词embedded。

为了更好地理解任何函数,查看源代码是一个好习惯。 这里是embedded所以基本上这是一个可训练的查找表。