過学習

株式会社神戸デジタル・ラボ DataIntelligenceチームの原口です。 前回は、構築したモデルをグラフ・正答率・混同行列を用いて評価しました！ もう一度内容を確認したい方は、以下の記事をご覧ください。 kdl-di.hatenablog.com 連載を最初から読みたい方は、以下の記事をご覧ください。 【第１回 基礎実装編】PyTorchとCIFAR-10で学ぶCNNの精度向上 - 神戸のデータ活用塾！KDL Data Blog 今回はAIモデルに「ひと手間」加えることで、過学習を抑制します！ 前回の問題点 Dropoutとは？ 過学習が起こる仕組み Dropoutの仕組み いざ実装！ …

ソースの説明 ソースは【Python自前実装】曲線フィッティングがベースなので、そちらをご一読ください。 リッジ回帰 リッジ回帰は以下の目的関数を最小化する回帰のことで、過学習を防ぐことができます。 # リッジ回帰(L2正則化)のモデルを作成 ridge_model = linear_model.Ridge(alpha=np.e**(-18)) # 学習する ridge_model.fit(Phi, t) 過学習 リッジ回帰と比較するために正則化無のモデルも学習しています。 # 線形回帰(正則化無)のモデルを作成 model = linear_model.LinearRegression() …

どうも、かわばっちゃんです。 今回はAIの過学習について説明します。 過学習とは 例えば、猫の画像を大量に覚えさせることで、猫の画像を読み込ませた時に、猫だと判断させるAIを作りたいとします。 色々な猫の画像から特徴を覚えさせることで、幅広い種類の猫の画像から猫と判断させることができると最高の状態とします。 ただ、画像を大量に覚えさせると、幅広い範囲の猫を認識できるようになるというより、むしろ範囲が狭くなります。 覚えさせた猫の画像の特徴と一致する物だけを猫と認識してしまうようになり、それ以外の猫は猫だと認識されません。 学習しすぎて、予測モデルの範囲を狭めてしまうような、この現象を過学習と呼…

moun45.hatenablog.com 機械学習モデルを訓練する際によく遭遇する問題の1つが、**過学習（Overfitting）**です。過学習は、モデルが訓練データに過度に適合し、未知のデータに対する汎化性能が低下する現象です。この記事では、過学習の原因とその防止方法について説明します。 過学習の原因 モデルの複雑さ: モデルが複雑すぎると、訓練データに対して過度に適合してしまう可能性があります。たとえば、多層ニューラルネットワークのような複雑なモデルは、小さなデータセットでは過学習しやすい傾向があります。 訓練データのノイズ: 訓練データに含まれるノイズや外れ値が、モデルの学習を歪め…