確率文脈自由文法（Probabilistic Context-free Grammar; PCFG）を教師なしで学習する手法として内側外側アルゴリズム（inside-outside algorithm）が知られています。 内側外側アルゴリズムがある種のEMアルゴリズムとして理解できることはあまりに有名ですが、 実は、PCFGをある種の人工ニューラルネットワークと見做したとき、おおよそ 内側アルゴリズム → 順伝播（forward） 外側アルゴリズム → 誤差逆伝播（backward） にそれぞれ対応していると見做せるという興味深い話があります。 今回は、内側外側アルゴリズムがどうして誤差逆伝播…
ja.wikipedia.org