動画講義の要約 RNN,LSTM、自然言語の処理について Section1: 再帰型ニューラルネットワークの概念 RNNとは 時間に依存したニューラルネットワークの事。RNNと略される。 図 rnn 中間層への入力が、出力層の他に、前層からの中間層がある。 数学的記述 中間層入力 = 入力層の重み演算 + 前層の重み演算 + バイアス $$ u ^ t = W _ (in) x ^ t + Wz ^ {t-1} + b $$ 活性化関数の演算で、中間層の値を出力 $$ z ^ t = f(W _ (in) x ^ t + Wz ^ {t-1} + b) $$ 出力層入力 = 中間層の重み演算 …