tsubosakaの日記

■ [NLP] 第五回自然言語処理勉強会で発表してきました

id:nokunoさんの主催する自然言語処理勉強会で、Infer.NETを使ってLDAを実装してみたというタイトルで発表してきました。

Infer.NETはMicrosoftが公開しているグラフィカルモデル上でベイズ推定を行うためのフレームワークです。このようなものを使うことにより、具体的な推論アルゴリズムの導出を人が行うことなく、生成モデルを記述するだけで事後分布の推論が可能になり、簡単に確率モデルを問題に合わせて定義するということが行えるようになるといいなと思って、今回紹介しました。

参考文献

Infer.NETを使う上で参考になるかと思われる書籍をあげておきます。

パターン認識と機械学習 上 - ベイズ理論による統計的予測

• 作者: C. M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇
• 出版社/メーカー: シュプリンガー・ジャパン株式会社
• 発売日: 2007/12/10
• メディア: 単行本
• 購入: 18人 クリック: 1,588回
• この商品を含むブログ (108件) を見る

パターン認識と機械学習 下 - ベイズ理論による統計的予測

• 作者: C. M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇
• 出版社/メーカー: シュプリンガー・ジャパン株式会社
• 発売日: 2008/07/11
• メディア: 単行本
• 購入: 19人 クリック: 443回
• この商品を含むブログ (61件) を見る

まず、確率分布についてはある程度理解する必要があるので(測度論とかまで踏み込む必要は全くない)、おなじみPRMLの上巻の1,2章および下巻の8章のグラフィカルモデルの章が参考になります。

予測にいかす統計モデリングの基本―ベイズ統計入門から応用まで (KS理工学専門書)

• 作者: 樋口知之
• 出版社/メーカー: 講談社
• 発売日: 2011/04/07
• メディア: 単行本（ソフトカバー）
• 購入: 9人 クリック: 180回
• この商品を含むブログ (8件) を見る

本書は最近出版された本で、まえがきにあるようにベイズモデリングに関して読み物レベルの記事と専門書の橋渡しを行い、"自分の問題に対してベイズモデリングを行い、モデルに基づいて予測し、その予測結果を通じてモデルの評価を行い、必要があればモデルを改良する、この一連の流れを学ぶ"ことを目的とした本です。

扱っている題材は時系列モデルで、鎖状構造グラフィカルモデルはInfer.NETがあまり得意としないところなのですが、それでもモデリングについての考えは参考になると思います。

Permalink | コメント(0) | トラックバック(3) | 23:59