麦芽Intelligence
LSTM LSTM
长短期记忆(Long short-term memory, LSTM)是一种特殊的RNN,主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。简单来说,就是相比普通的RNN,LSTM能够在更长的序列中有更好的表现。
2020-08-23
RNN RNN
循環神經網絡(Recurrent neural network:RNN)是神經網絡的一種
2020-08-23
DNN的反向传播算法 DNN的反向传播算法
 我们首先回顾DNN的反向传播算法。在DNN中,我们是首先计算出输出层的δLδL:δL=∂J(W,b)∂zL=∂J(W,b)∂aL⊙σ′(zL)δL=∂J(W,b)∂zL=∂J(W,b)∂aL⊙σ′(zL)    利用数学归纳法,用δl+1
2019-07-21
卷积神经网络(CNN)反向传播算法 卷积神经网络(CNN)反向传播算法
## 卷积神经网络(CNN)反向传播算法 在卷积神经网络(CNN)前向传播算法中,我们对CNN的前向传播算法做了总结,基于CNN前向传播算法的基础,我们下面就对CNN的反向传播算法做一个总结。在阅读本文前,建议先研究DNN的反向传播
2019-05-23