言語処理のための機械学習入門

1 必要な数学的知識
2 文書および単語の数学的表現
3 クラスタリング
4 分類
5 系列ラベリング
6 実験の仕方など

言語処理のための機械学習入門 (自然言語処理シリーズ)

続・わかりやすいパターン認識

第1章 ベイズ統計学
試行と事象/ベイズの定理/頻度から確信度ヘ/逆確率 -結果から原因を-/三つの扉問題
第2章 事前確率と事後確率
事後確率の計算/ベイズ更新/ベイズ更新の実験
第3章 ベイズ決定則
パターン認識/事後確率最大化/事前確率の効果/ベイズ誤り確率
第4章 パラメータ推定
学習とパラメータ推定/最尤推定/ベイズ推定/ベータ分布/共役事前分布/ベイズ推定における推定値の特定/ベイズ推定の実験/最尤推定とベイズ推定との比較/ディリクレ分布
第5章 教師付き学習と教師なし学習
学習のための二つの観測方法/最尤推定に必要な数学/教師付き学習/教師なし学習(パラメータπiの推定/パラメータθikの推定/推定結果の妥当性/教師付き学習との関係/教師なし学習アルゴリズムの演算 教師なし学習の実験)
第6章 EMアルゴリズム
教師なし学習に伴う問題/log-sumからsum-logヘ/Q関数の特性/Q関数の最大化/EMアルゴリズムと補助関数法
第7章 マルコフモデル
マルコフ性とマルコフモデル/マルコフモデルのパラメータ推定
第8章 隠れマルコフモデル
隠れマルコフモデルとは/前向き・後向きアルゴリズム/ビタービアルゴリズム/バウム・ウェルチアルゴリズム/隠れマルコフモデルによる識別系/隠れマルコフモデルの実験(前向きアルゴリズムの実験/ビタービアルゴリズムの実験/バウム・ウェルチアルゴリズムの実験/識別実験)
第9章 混合分布のパラメータ推定
混合分布に対するパラメトリックな学習/教師付き学習によるパラメータ推定/教師なし学習によるパラメータ推定(最適なパラメータ/教師付きの場合との対比/EMアルゴリズムとの関係)/混合正規分布のパラメータ推定/混合正規分布のパラメータ推定実験( 一次元正規分布/多次元正規分布/クラスタリングについて)
第10章 クラスタリング
クラスタリングとは/K-means法(δkに関する最小化/Piに関する最小化)/K-means法の実験(使用データおよびベイズ識別関数による決定境界/K-means法による決定境界)/K-means 法とEMアルゴリズム/凸クラスタリング法/凸クラスタリング法の実験/クラスタ数の推定
第11章 ノンパラメトリックベイズモデル
分割の確率モデル/ホップの壺モデル/中華料理店過程/事前確率のための確率モデル/ ディリクレ分布から分割ルールヘ/ディリクレ過程の数学(ディリクレ過程の定義/確率分布G(θ)の形状/棒折り過程)
第12章 ディリクレ過程混合モデルによるクラスタリング
ディリクレ過程混合モデルとその学習法/ノンパラメトリックベイズモデルの実験(基底分布の設定/クラスタリング法1の実験/クラスタリング法2の実験)
第13章 共クラスタリング
関係データに対する共クラスタリング/無限関係モデル(IRM) /IRMの学習
付録A 補足事項

続・わかりやすいパターン認識―教師なし学習入門―

内容がとてもヘビーになって続編が登場