深度学习——动画版RNN、LSTM和GRU计算过程

RNN常用来处理序列式问题，本篇采用动图的方式展示RNN的计算过程。最常见的3中RNN网络结构分别为:

• vanilla RNN
• long short-term memory (LSTM)
• gated recurrent units (GRU)

下面是插图中使用的各个图例的说明

NOTE：动画展示的是在某个时刻(indexed by t)RNN cell 内部的处理，示例中input size=3,hidden units =2,batch size=1。

Vanilla RNN

• t--time step
• X--input
• h--hidden state
• length of X--dimension of input
• length of h--no. of hidden units

LSTM

• C--cell state

GRU

原文链接：https://towardsdatascience.com/animated-rnn-lstm-and-gru-ef124d06cf45

来自 | 知乎 作者 | JerryFly

链接 | https://zhuanlan.zhihu.com/p/115823190

编辑 | 深度学习这件小事公众号

本文仅作学术交流，如有侵权，请后台联系删除