RNN的5种典型结构

左手的ㄟ右手 2023-07-02 07:26 21阅读 0赞

# 引入 #

我已经在文章\[1\]中介绍了一些序列模型的应用，比如“中文翻译为英文”，“NER命名实体识别”，“歌词生成”，“情绪识别”。

也在文章\[2\]中介绍了RNN结构的基本原理。

那问题来了，要实现“中译英”和“歌词生成”，我们选用的RNN结构是一样的吗？RNN有哪些典型的结构，分别对应哪些应用场景呢？

# RNN的5种典型结构 #

首先，直接给出RNN的5中典型结构，如下图。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3liZGVzaXJl_size_16_color_FFFFFF_t_70]

然后我们依次讲解。

## 1. One to One ##

这是最简单的RNN结构，可以理解为输入一个单词（或词向量），输出一个单词（label）。

这种结构其实就是最普通的神经网络，和RNN其实没多大关系，写到这里也只是为了保持理论的完整性，实践中几乎没有这样用RNN的。

## 2. One to Many ##

可以理解为输入一个label，就能输出很多单词。

这样的应用比如“根据音乐类型（输入int型的一个x），生成一篇音乐”，或者“生成文章”。

当然这里有一个技术细节

*  当你生成序列时，通常会把第一个合成的输出，也喂给下一层
 *  所以图中把第一个字符的输出y，作为了第二个字符的输入

## 3. Many to One ##

可以理解为，输入一篇文章，输出文章作者的情绪（0/1）。

这种“多对一”的结构，主要用于做“情绪识别”，或者“文章分类”。

## 4. Many to Many (Tx=Ty) ##

这就是\[2\]中介绍的最经典的RNN结构，这种结构的输入序列数量和输出序列数量相同，主要用于实现“NER命名实体识别”的应用。

Tx表示输入序列的长度，Ty表示输出序列的长度。

## 5. Many to Many (Tx!=Ty) ##

在某些情况中，比如做“中译英”，我们的输入中文汉字数量，和输出的英文单词数量不一样。就必须要实现输入输出不等长的RNN。

这样的RNN有两部分组成，左半部分叫做“Encoder”（编码器，获取输入），右半部分叫做“Decoder”（解码器）。

# 参考 #

*  \[0\]. AndrewNg的《序列模型》教程
 *  \[1\]. https://blog.csdn.net/ybdesire/article/details/102963683
 *  \[2\]. https://blog.csdn.net/ybdesire/article/details/103449597

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3liZGVzaXJl_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200127214757671.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3liZGVzaXJl,size_16,color_FFFFFF,t_70

发表评论取消回复

表情：

评论列表（有 0 条评论，21人围观）

还没有评论，来说两句吧...

相关阅读

相关解析Python常见错误：5种典型场景示例

在Python编程中，我们经常会遇到各种错误。这里我将列举5种典型的Python错误场景，并进行简单解析。 1. **语法错误**：例如：`print("Hello

系统管理员/ 2025年01月29日 04:00/ 0 赞/ 10 阅读

相关 JavaFX几种典型的布局策略

为了构造我们所需要的程序界面，我们会使用JavaFX提供的丰富的控件来实现这一目标。但是如何摆放这些控件的位置是一个重要的问题，JavaFX提供了一种特殊的控件，即面板Pane

系统管理员/ 2024年02月25日 05:46/ 0 赞/ 85 阅读

相关 RNN的5种典型结构

引入我已经在文章\[1\]中介绍了一些序列模型的应用，比如“中文翻译为英文”，“NER命名实体识别”，“歌词生成”，“情绪识别”。也在文章\[2\]中介绍了RNN结

左手的ㄟ右手/ 2023年07月02日 07:26/ 0 赞/ 22 阅读

相关 RNN

内容超详细，介绍了RNN以及LSTM https://blog.csdn.net/zhaojc1995/article/details/80572098 补充：Word

不念不忘少年蓝@/ 2023年06月22日 03:18/ 0 赞/ 39 阅读

相关理解RNN的结构+特点+计算公式

引入在某一些情况下，我们是无法使用标准的全连接神经网络的。比如，预测句子中哪几个单词是人名，如果使用标准的全连接神经网络，网络结构如下： ![在这里插入图片描述][w

怼烎@/ 2023年06月20日 06:28/ 0 赞/ 43 阅读

相关四种典型的假努力

我们要先搞明白有效努力和无效努力这两个概念，才能说清楚什么是“假努力”，才能搞清楚怎么避免“假努力”。 1 理解有效努力和无效努力当我们谈论努力是有效还是无效

女爷i/ 2022年09月11日 05:07/ 0 赞/ 178 阅读

相关双向RNN深度RNN几种变种

原文链接：[https://cloud.tencent.com/developer/article/1144238][https_cloud.tencent.com_devel

痛定思痛。/ 2022年09月10日 11:07/ 0 赞/ 203 阅读

相关 Samba的三种典型配置

Samba的三种典型配置 pub －不需要密码，且可读写及删除文件。　 read-only －不需要密码，但只可以读取文件。　 user1 －需要密码，可读写及删

我就是我/ 2022年08月24日 00:53/ 0 赞/ 154 阅读

相关 5个典型的JavaScript面试题

阅读目录 [1. 变量范围][1.] [2. 创建“native”方法][2. _native] [3. 提升 Hoisting][3. _ Hoistin

迷南。/ 2022年08月20日 09:18/ 0 赞/ 222 阅读

相关 5个典型的JavaScript面试题

IT 行业对JavaScript开发者有着很大的需求。如果你具备这种角色所需的知识结构，那么你就有很多的机会来影响你的公司，提高你的工资。但是在你被一家公司雇佣之前，你需要展示

红太狼/ 2022年08月09日 02:17/ 0 赞/ 229 阅读