最近,甘利さんの統計神経力学の本を研究室内で輪読していて,自分が自然勾配法の章を担当することになった.せっかく資料を作った(良くも悪くも読みづらく,自分で全部再構成する形になった)ので一部をブログに載せておこうと思う.(あと二重降下の章も担当することになったのでこの記事みたくそのうちブログにするかもしれない) MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 最急降下法と自然勾配法 最急降下法の学習速度…