【Pytorch实用教程】nn.Embedding和nn.EmbeddingBag用法详解

1. nn.Embedding

详细介绍：
nn.Embedding 是一个简单的查找表，它将每个词或索引映射到一个固定大小的向量。常用于自然语言处理（NLP）中的词嵌入。给定一个索引列表，nn.Embedding 将返回对应的嵌入向量。

构造函数参数：

• num_embeddings：词典的大小，即索引的总数。
• embedding_dim：每个嵌入向量的维度。
• padding_idx（可选）：指定一个索引，该索引的向量会初始化为全零，并且在反向传播中不会更新。
• max_norm（可选）：如果提供了该参数，嵌入向量的范数将被限制在该值之内。
• norm_type（可选）：用于计算 max_norm 的范数类型，默认为 2。
• scale_grad_by_freq（可选）：如果设为 True，则根据词频缩放梯度。
• sparse（可选）：如果设为 True，则使用稀疏更新。

示例代码：