上周，我们学习了如何使用代币转换器（Tokenizer）将单词转换为数字代币，并根据这些代币对句子进行排序，从而为神经网络使用文本做好准备。本周你将学习嵌入（Embeddings），在高维空间中将这些标记映射为向量。有了嵌入和标注的示例，就可以调整这些向量，从而使含义相似的单词在向量空间中具有相似的方向。这将开始训练神经网络以理解文本中的情感的过程--你将从电影评论开始，在标有 "正面 "或 "负面 "的文本上训练神经网络，并确定句子中哪些词会产生这些意义。

在过去的几周里，你们首先研究了标记化单词以获取数值，然后使用嵌入式技术根据单词的标记方式对含义相似的单词进行分组。这为我们提供了一个良好但粗糙的情感分析--"有趣 "和 "娱乐 "等词可能会出现在正面的电影评论中，而 "无聊 "和 "沉闷 "则可能出现在负面的评论中。但情感也可以通过词语出现的顺序来确定。例如，"不好玩 "当然是 "好玩 "的反义词。本周，您将开始研究用于训练模型的各种模型格式，以了解上下文的顺序！

利用您在训练基于 NLP 的神经网络时所学到的所有知识，我们认为将其从分类转为预测可能会有点意思。可以想象，如果给定了一组单词，你可以预测最有可能出现在某个单词或短语后面的单词，而且一旦你做到了这一点，就可以反复预测。考虑到这一点，本周你将建立一个诗歌生成器。它是用爱尔兰传统歌曲的歌词训练出来的，可以用来生成自己的优美诗句！