統計や機械学習において、教師データに対して、適切に汎化せずに過剰適応すること。モデルのパラメータ数を減らす、正則化項をつけるなどの対策がある。
データ分析コースのインターンシップに参加させていただいた NAIST の福田です。 普段は、機械学習を使って、アンケートにより得られる労働者の心身状態（ワークエンゲージメント、うつ度合いなど）を当てる研究をしています。元々、広告業界に興味があり、なかでも機械学習を使ったものがあると聞き、FANCOMIの広告枠のCTR予測について、5 日間取り組みました。最近は、コロナウイルス（COVID-19）が流行っていますが、体調に気をつけて頑張っていきたいと思います。 ※ 福田さんがインターン参加の時期（2020年2月頃は）は、コロナの影響でファンコミュニケーションズでは、出勤・退勤時間をずらす対応やテ…
論文 「Meta-Learning for Few-Shot Time Series Classification」 筆者 Jyoti Narwariya, Pankaj Malhotra, Lovekesh Vig, Gautam Shroff, Vishnu Tv Available on arXiv : https://arxiv.org/abs/1909.07155 DNNベースの時系列データのクラスタリングに関する論文。メタ学習を使用して様々な時系列データに適用することで性能を評価している。少数の時系列データをデータセットから再現することは難しいので、いくつかのデータセットをサンプリ…
G検定 2020#2 受験時の勉強ノートの一部です。 ※全部で5ページ投稿する予定です。 ※ノートを書く過程で覚えたものが多く、実際の試験中にノートを参照することは少なかったです。 ※各キーワードの詳細はわからなくてもなんのことかをイメージしている程度のものも多いです。 ※受験後の復習で加筆した部分も多いです。 誤差逆伝播法 積層オートエンコーダによる事前学習 活性化関数 勾配降下法 オーバーフィッティング(overfitting)の対策 正規化 フレームワーク その他の用語 誤差逆伝播法 ネットワークを深くすると誤差が最後まで正しく反映されないという問題があった 勾配消失問題 活性化関数はも…
とりあえず本を20pくらいまで読んだ。 データセットは3つ。 ダウンロードした。 テストデータとトレーニングデータ。 テストデータをもとに予想するということだ。 データは軽いので出先でもできるのがうれしいところ。 過学習とは何かについて調べるべきかもしれない。 「過学習（過適合）」とは、学習（訓練）データにあまりに適合しすぎて、学習（訓練）データでは正解率が高いのに学習（訓練）データとは異なるデータ（例えば、評価データ）では正解率が低くなってしまう、つまり、学習（訓練）データだけに最適化されてしまって汎用性がない状態に陥ることです。 参考：AIが学習しすぎる？「過学習」問題とそれを抑制する方法
こんにちは、リブセンスでデータサイエンティストをしている北原です。今回から３回にわたって暗黙的評価データを使ったコンテキスト対応レコメンデーションの紹介をしようと思います。具体的には、コンテキストを扱えるFactorization Machines(FM)をモデルとした、Bayesian Personalized Ranking(BPR)を紹介します。今回はアルゴリズムとモデル、次回は実装、最後は実務での応用の話をします。 MathJax.Hub.Config({ tex2jax: { displayMath: [['$$\n', '\n$$'], ['$$\r\n', '\r\n$$']],…
G検定 2020#2 受験時の勉強ノートの一部です。 ※全部で5ページ投稿する予定です。 ※ノートを書く過程で覚えたものが多く、実際の試験中にノートを参照することは少なかったです。 ※各キーワードの詳細はわからなくてもなんのことかをイメージしている程度のものも多いです。 ※受験後の復習で加筆した部分も多いです。 機械学習の種類と手法 教師あり学習 教師なし学習 強化学習 機械学習の手法の評価 自然言語処理 その他の用語 機械学習の種類と手法 教師あり学習 分類問題と回帰問題 線形回帰 正規化項を加えた手法として ラッソ回帰(lasso regression) リッジ回帰(ridge regre…
ホクソエムサポーターの白井です。 今回は前回 【翻訳】機械学習の技術的負債の重箱の隅をつつく (前編) の続きを紹介します。 blog.hoxo-m.com ※この記事は、Matthew McAteer氏によるブログ記事Nitpicking Machine Learning Technical Debtの和訳です。原著者の許可取得済みです。 後編では、コードのアンチパターンなど、エンジニアには身近な話題で、前編と比較して実践しやすいコンテンツも多いと思います。 Nitpicking Machine Learning Technical Debt (機械学習の技術的負債の重箱の隅をつつく) Pa…
こんばんは、へるもです。 7/4にG検定という資格試験を受験しました。というのも、今回はstay homeに伴ってできた時間を勉強に当ててくださいということで、受験料が半額（12,000→6,000）だったんですよね。 結論 #G検定 AIなどを勉強したい人が取っ掛かりとして受験するようなものだったけど、ずいぶんと傾向が変わった印象。仕事で機械学習を使ってるけどこんな内容までしらなくてもできる。ゼネラリストを粋を超えて雑学王方向に舵が切られている。テキストとの乖離も多く、後輩にはお薦めできないな— 社会人はリラックスしたい (@kapVpjzVyO8N5Fl) 2020年7月4日 2020年に…
はじめに 自然言語処理の問題集として有名な言語処理100本ノックの2020年版が公開されました。 この記事では、以下の第1章から第10章のうち、「第6章: 機械学習」を解いてみた結果をまとめています。 第1章: 準備運動 第2章: UNIXコマンド 第3章: 正規表現 第4章: 形態素解析 第5章: 係り受け解析 第6章: 機械学習 第7章: 単語ベクトル 第8章: ニューラルネット 第9章: RNN, CNN 第10章: 機械翻訳 はじめに 事前準備 第6章: 機械学習 50. データの入手・整形 51. 特徴量抽出 52. 学習 53. 予測 54. 正解率の計測 55. 混同行列の作成 …
