■□■ 本書の特長 ■□■ ★ ベイズ理論に基づく統一された説明:ベイズ理論に基づく統計的予測技術は,計算アルゴリズムの開発と計算機の性能向上によって,急速に進展しました.本書は,このベイズ理論の観点で統一的に整理された視点で,各種の機械学習・パターン認識の理論や手法を解説しています.
★ 基本から発展までバランスとれた構成:本書は,確率入門・決定理論・回帰問題・識別問題のような基本的で平易な話題から始まっています.これらの基本をふまえた上で,90年代に登場したサポートベクトルマシンやブースティングといった手法,機械学習アルゴリズムの適用範囲を広げたカーネルトリックやグラフィカルモデル,およびベイズ理論の実用化にあたって不可欠だったMCMCや変分ベイズといった高度な話題までを学ぶことができます.
★ カラーの図による直観的な説明:機械学習・パターン認識の本は数式による説明だけになりがちです.本書はこうした形式的な説明に加えて,図を用いた直観的な説明も加えています.イメージを伴った理解は,機械学習手法を応用問題に適用するときや,新たなアイデアを創出するときに役立つことでしょう.さらに, 多くの図がカラーで収録されている,日本の情報科学分野の本では希少な本です.
★ 豊富な演習問題:本書は演習問題も豊富で,400問以上収録されています.これらの問題は自身の理解度を確認するのに役立つでしょう.
■□■ 各章の内容 ■□■
★ 第6章:カーネル法:カーネル関数を用いた,非線形なモデルについて学びます.
カーネル関数を適用するために必要な双対表現について述べてから,各種のカーネル関数を紹介します.その後,確率過程の一つであるガウス過程とカーネルの関連を示します.
★:第7章:疎な解を持つカーネルマシン:サポートベクトルマシン(SVM)について学びます.
まず,マージン最大化の考えに基づいてSVMを導きます.その後,SVMのいくつかの問題点に対処した関連ベクトルマシンを紹介します.
★ 第8章:グラフィカルモデル:グラフィカルモデル,特にベイジアンネットワークとマルコフ確率場について学びます.
ベイジアンネットワークやマルコフ確率場に代表されるグラフィカルモデルについて述べます.このモデルによる確率のモデル化と,その理解に必要な条件付き独立の概念を説明し,最後に,このモデルを用いた推論アルゴリズムを紹介します.
★ 第9章:混合モデルとEM:混合モデルとEMアルゴリズムについて学びます.
クラスタリング手法の一つであるk-means法についてふれたのち,混合ガウス分布をEMアルゴリズムによって解く方法を示します.その後,この混合ガウス分布とk-means法の関連など,EMアルゴリズムについて掘り下げます.
★ 第10章:近似推論法:潜在変数間に複雑な関係がある場合の近似手法である変分ベイズ法などについて学びます.
確率の確定的な近似を行う変分ベイズ法とその具体的な計算例を示し,線形回帰やロジスティック回帰への適用について学びます.その後,もう一つの近似手法であるEP法を紹介します.
★ 第11章:サンプリング法:ギブスサンプリングなどの,確率的な近似手法について学びます.
最初に,与えられた確率分布に従ってサンプリングする基本手法を紹介します.その後,ギブスサンプリングやMetropolis-Hastings法などのマルコフ連鎖モンテカルロ法(MCMC)による確率的な近似手法について学びます.
★ 第12章:連続潜在変数:主成分分析の確率的な定式化について学びます.
次元削減手法の代表である主成分分析を分散や誤差の観点から説明したのち,確率的主成分分析について学びます.因子分析やカーネル主成分分析など,その他の次元削減手法についても学びます.
★ 第13章:系列データ:隠れマルコフモデルと線形動的システムによる系列データの扱いについて学びます.
隠れマルコフモデルの推論手法であるViterbiアルゴリズムと,パラメータを推定するフォワード-バックワードアルゴリズムについて学びます.その後で,系列データを扱うための線形動的システムと粒子フィルタについて述べます.
★ 第14章:モデルの結合:ブースティングなどのアンサンブル学習について学びます.
コミッティやブースティングなど代表的なアンサンブル学習をまず紹介します.その後,決定木と,混合分布の拡張ともいえる混合エキスパートモデルについて学びます.
