Hatena::ブログ(Diary)

Mi manca qualche giovedi`? このページをアンテナに追加 RSSフィード Twitter

2011-07-22 アンチョコは死語らしいw 「PRML 虎の巻」? 「PRML ガイド」?

「機械学習とパターン認識」(PRML)のアンチョコ by herumi

社内で「機械学習パターン認識」(PRML) の読書会をやっているのだけど、計算がやっぱり難しいようでみんな苦戦中。

そんなこんなで、光成さん(@ さん)が PRML の数式を手抜き無しで解説するアンチョコ(虎の巻 / PRML教科書ガイド)をマメに作ってくれている。*1



内容は PRML の2章から4章と、9章、PRMLでもっとも計算が難しいと評判の10章を対象としている。


たとえば2章のアンチョコでは、2章の中で必要とされる解析や線形代数の道具(積分変数変換、行列の各種操作)を一通り取り上げた後、ガウス分布最尤推定における平均や分散による偏微分という、おそらく多くの人がつまづくのだろう計算がきちんと説明されている。

また3章のアンチョコでは、Woodbury の公式やヘッセ行列を解説しつつ、エビデンス関数などを導出しているし、4章になるとかなり面倒な計算が多いが、そこらへんもほぼ網羅されている。


9章はEMアルゴリズムの導出で、μ_k や Σ_k での微分が出てくる。最初はこの補足ノートを見てもいいけど、できれば自力で出来るようになっておきたいところ。一度目は写経して、次は見ずに計算してみる、というのがおすすめ。

逆に10章は全部が全部自力で出来なくてもいいかと(笑)。ただこれくらいの計算が出来れば、これより難しい計算が機械学習の話の中に出てくることはほとんど無いので、相当の自信になると思う。


現役離れてずいぶん経つ三十路(数学をちゃんとやっておけば良かった!)だけでなく、PRML を勉強しているけど数式を追いかけるのが大変! という学生さんにもきっと役立つだろう。


【追記】

この PRML アンチョコが暗黒通信団から同人誌として出版された。

PDF と同じ内容であるが、ノートでゴリゴリ計算するなら、やっぱり紙の本がいいなあという方にはいいかもしれない。



全国のジュンク堂を含む書店や大学生協などでもちらほら販売されている、らしい。

【/追記】

*1:よくこんな面倒なことするなあと感心w

スパム対策のためのダミーです。もし見えても何も入力しないでください
ゲスト


画像認証