変数選択

変数選択は精度の高い予測モデルの構築において非常に重要といえる。本記事では、変数選択手法の一つであるBorutaについてまとめた。 Borutaについて 詳しい手順 pパーセンタイルについて pパーセンタイルの設定方法 pythonでの実装 準備 データの取得 モジュールのインストール 解析諸条件 コード モジュールインポート〜データの準備 データの分割〜borutaによる変数選択 予測と精度検証 結果まとめ 参考 Borutaについて ランダムフォレスト（RF）の変数重要度に基づく変数選択方法 目的変数と関係のない適当な特徴量（shadow features）と、オリジナル変数の重要度を比較…

多重検定問題を回避する方法の一つとして知られるBonferroni法（ボンフェローニ法）についてまとめた。 多重の多重性について 多重検定問題を回避する（Famillywise Error rateを調整する）方法 Bonferroni法について Bonferroni法の問題点 コード 準備 変数選択 予測と精度確認 参考 多重の多重性について 検定の多重性とは、仮説検定を何度も繰り返すことで、発生する問題のことをさす。 例えば、回帰や分類問題の解析において、無相関検定やt検定などを用いてp値が有意水準を下回った場合にその変数を説明変数と使用する場合を考える。 ある１つの変数を対象として検定を…

機械学習はデータが命です。データが精度を左右するので、精度を上げるためにデータを増やし、変数をどんどん追加してくという方向になりがちです。しかし、変数の数を多くすると、計算時間の増加をまねいたり、特定のクラスの一部のデータの影響で過学習したりなどの問題が起こります。 意味のある変数だけを抽出できたり、次元を減らすように要約できたりすれば、重要な要因がわかりますし、計算時間も減らせます。見たい番組が多すぎて色々ザッピングした結果、何も記憶に残っていないみたいなことがなくなります。今回は、このような変数の削減方法において見ていきます。 先に実装結果を示すと、各手法によって選択される変数が異なるため…

これまでの記事では、Fingerprintの可視化や構造式描画のカスタマイズについてまとめてきた。 今回は、それらでまとめてきた手法を駆使して、機会学習による化合物の物性予測根拠の可視化を実施する。 具体的には、第43回ケモインフォマティクス討論会での講演「フィンガープリントによる化合物の予測根拠可視化（三井化学）」の内容を再現する。 講演（予稿）の内容 解析条件など データ 変数 前処理 解析手法 寄与の計算方法 可視化方法 前準備 コード データセットの準備〜前処理まで borutaによる変数選択 予測モデル構築と精度検証 回帰係数の可視化 寄与の計算と可視化 寄与の計算（おさらい） 可視…

変数選択は精度の高い予測モデルの構築において非常に重要といえる。本記事では、変数選択手法の一つであるBorutaについてまとめた。 Borutaについて 詳しい手順 pパーセンタイルについて pパーセンタイルの設定方法 pythonでの実装 準備 データの取得 モジュールのインストール 解析諸条件 コード モジュールインポート〜データの準備 データの分割〜borutaによる変数選択 予測と精度検証 結果まとめ 参考 Borutaについて ランダムフォレスト（RF）の変数重要度に基づく変数選択方法 目的変数と関係のない適当な特徴量（shadow features）と、オリジナル変数の重要度を比較…

多重検定問題を回避する方法の一つとして知られるBonferroni法（ボンフェローニ法）についてまとめた。 多重の多重性について 多重検定問題を回避する（Famillywise Error rateを調整する）方法 Bonferroni法について Bonferroni法の問題点 コード 準備 変数選択 予測と精度確認 参考 多重の多重性について 検定の多重性とは、仮説検定を何度も繰り返すことで、発生する問題のことをさす。 例えば、回帰や分類問題の解析において、無相関検定やt検定などを用いてp値が有意水準を下回った場合にその変数を説明変数と使用する場合を考える。 ある１つの変数を対象として検定を…

長らく更新が空いてしまいました。 読んだ本を忘れないように、章ごとにまとめていきます。今回はPythonではじめる機械学習の2章（教師あり学習）です。 もっと細かい部分を見たい場合は書籍を見てください。Pythonではじめる機械学習 ―scikit-learnで学ぶ特徴量エンジニアリングと機械学習の基礎作者:Andreas C. Muller,Sarah Guido発売日: 2017/05/25メディア: 単行本（ソフトカバー） 概要 教師あり学習 学習用データとして、入力データと出力データのセットを用いる クラス分類（classification）と、回帰（regression）に大別される…

DataRobotのブログ記事統計解析と機械学習：要因分析からの考察（Part 1, Part 2）を読んで参考になった点のメモ。 （記事内の単語は、自分が分かりやすいように言い換えてます） はじめに 伝統的な多変量解析手法による変数選択のリスク 多重検定問題について 変数選択プロセスにおけるパーティショニング手法の有効性 多変量解析手法によるアプローチと機械学習的アプローチの使い分け 少数データにおける課題と対策 参考 はじめに 機械学習にとって要因分析は、予測や分類を行うのに比べてレベルの高い課題。 その理由は、機械学習においては説明変数と目的変数の相関関係は明らかにできるが、因果関係があ…

重回帰分析を以前やりましたが、 説明変数はマニュアル方式で 集計結果のグラフを見ながら選んでいました。 今回はバージョンアップして全ての説明変数の組み合わせを 試して一番精度がよいモデルを選択するプログラムを組みました。 精度の評価方法は色々ありますが、本記事ではMean Absolute Error(MAE)の値が 一番小さいモデルをベストモデルとして採用するようにしています。 ※ MAE = 日本語では平均絶対誤差と呼ぶそうです。分析のコンペなどでたまに 評価方法で採用されています。

コロナになってからバタバタして更新が滞っていたhinomarcです。 生活様式がかなり変化し、慣れるまで時間がかかってしまいました。 久しぶりにこのブログのアクセス状況を見てみたら、 なかなか閲覧してくださっている方がいることがわかりました。 これはかなり嬉しかったです。読んでくださりありがとうございます。 特に重回帰の記事が人気のようです。 hinomaruc.hatenablog.com マーケティング系の方が読んでくださっているのでしょうか？ 変数選択が記事の内容だと完全に集計結果から判断した マニュアルでの選択なので、一番精度が良い組み合わせのモデルを 出力するように改良したバージョン…

本記事では、単回帰分析について記載します。 【目次】 計算式等 ノート プログラムコード 雑談 参考 計算式等 単回帰分析は、２変量 {x,y} の関係を直線（一次式）で求める分析方法です。モデル、式は次のとおりです。 ■ 単回帰モデル ■ 単回帰式 は切片（intercept）、 は回帰係数（regression coefficient）であり、回帰係数は x が１増えた時に y がどのくらい増えるかを表します。また、説明変数で表現できないものを残差 と言い、この残差は独立に正規分布 に従います。 単回帰分析は次の分散分析表で表現することができます。この分散分析表は一元配置分散分析で示したも…

マテリアルズインフォマティクス に関する企業の技術レポート・解析内容を再現する。 はじめに 技術レポート内容 ベイズ最適化について3 *データ駆動型の材料開発における課題 目的 諸条件 データ 変数作成 前処理 変数選択 解析手法 解析の流れ コード 前準備）モジュールのインストール モジュールインポート データセットの準備 logS t-SNEによる可視化 いざ検証 結果の可視化 描画t-SNE を使ってプロットを二次元に写す 予測と検証のサイクルを可視化してみる 結果 ランダムに次の化合物を指定した場合 単純に予測値（の平均）が高い化合物を指定した場合 （EIが最も高い化合物を指定した場合…

化合物の溶解度予測（基礎編）をベースにして、今回は予測の信頼性（=予測値の分散=予測値がどれだけ不安定か）も合わせて評価した。 具体的には、分割の異なる訓練・テストデータを使って何度も予測を行うことで、予測値がどれだけブレるか検証した。 目的 諸条件 データ 変数作成 前処理 解析手法 予測値の平均・分散の計算方法 前準備 コード モジュールのインポート データの読み込みと変数作成 変数のスクリーニング 学習と予測 予測結果の可視化 サンプル同士の距離と予測値のばらつきの関係 参考HP 目的 分子の水溶解度（LogS）の予測および、予測値の分散を求める。 諸条件 データ 100分子の水溶解度（…

オープンになっているデータセット、具体的には1290化合物の水溶解度のデータで構造物性相関解析（いわゆるQSPR）を行う。 目的 諸条件 データ 変数作成 前処理 解析手法 前準備 コード モジュールのインポート データの読み込みと変数作成 変数のスクリーニング 訓練・テストデータの準備と標準化 学習と予測 予測精度の計算と可視化 おまけ）変数重要度の可視化 参考HP 目的 分子の水溶解度（LogS）を予測すること 諸条件 データ 1290分子の水溶解度（LogS）データ（sdfファイル形式） （金子研究室HPのデータセットを利用） 変数作成 RDkit 記述子を使用（参考HP） 前処理 以下…