確率的勾配降下法

はじめに Rubyの機械学習ライブラリであるRumaleで、RidgeとLinearRegressionで、solver: 'auto' とした場合に、Numo::Linalgがロードされていない場合は、L-BFGS法をソルバーとするようにした。Numo::Linalgがロードされている場合は、従来どおり特異値分解を用いる方法を使う。これを、ver. 0.23.0としてリリースした。 rumale | RubyGems.org | your community gem host 使い方 Rumaleはgemコマンドでインストールできる。 $ gem install rumale 使い方は変わら…

QR-DQNをtensorflow2で実装します。 元論文： [1710.10044] Distributional Reinforcement Learning with Quantile Regression はじめに Categorical DQNの分布モデル QR-DQNの分布モデル 分位点回帰 分位点Huberloss QR-DQNの実装 QRネットワークの実装 分位点ロスによるネットワーク更新 Breakoutでの学習結果 次：FQF 前記事： horomary.hatenablog.com 参考： https://physai.sciencesconf.org/data/page…

はじめに 『ゼロから作るDeep Learning 2――自然言語処理編』の初学者向け【実装】攻略ノートです。『ゼロつく2』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本の内容を1つずつ確認しながらゆっくりと組んでいきます。 この記事は、8.2.1項「Encoderの実装」と8.2.1項「Encoderの実装」の内容です。Attention付きseq2seqで用いるEncoderとDecoderの処理を解説して、Pythonで実装します。 【前節の内容】 www.anarchive-beta.com 【他の節の内容】 www.anarchive-beta.com …

はじめに 『ゼロから作るDeep Learning 2――自然言語処理編』の初学者向け【実装】攻略ノートです。『ゼロつく2』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本の内容を1つずつ確認しながらゆっくりと組んでいきます。 この記事は、8.1.3項「Decoderの改良①」の内容です。Encoderの隠れ状態から必要な情報を抽出するWeight Sumレイヤの処理を解説して、Pythonで実装します。 【前節の内容】 www.anarchive-beta.com 【他の節の内容】 www.anarchive-beta.com 【この節の内容】 はじめに 8.1.…

実際過学習がどの程度影響するのかを検証してみる。 ニューロンのひな型は このへん で作ったものを流用。 import numpy as np wb_width = 0.1 # 重みとバイアスの広がり方 eta = 0.01 # 学習係数 class Neuron: def __init__(self, n_upper, n, activation_function, differential_function): self.w = wb_width * np.random.randn(n_upper, n) # ランダムなのが確立勾配法 self.b = wb_width * np.rando…

はじめに 『ゼロから作るDeep Learning 2――自然言語処理編』の初学者向け【実装】攻略ノートです。『ゼロつく2』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本の内容を1つずつ確認しながらゆっくりと組んでいきます。 この記事は、7.3.3項「Seq2seqクラス」の内容です。seq2seqの処理を解説して、Pythonで実装します。 【前節の内容】 www.anarchive-beta.com 【他の節の内容】 www.anarchive-beta.com 【この節の内容】 はじめに 7.2.4 足し算データセット 7.3.3 Seq2seqクラス ・処…

はじめに 『ゼロから作るDeep Learning 2――自然言語処理編』の初学者向け【実装】攻略ノートです。『ゼロつく2』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本の内容を1つずつ確認しながらゆっくりと組んでいきます。 この記事は、7.3.2項「Decoderクラス」の内容です。seq2seqの出力側のRNNであるDecoderの処理を解説して、Pythonで実装します。 【前節の内容】 www.anarchive-beta.com 【他の節の内容】 www.anarchive-beta.com 【この節の内容】 はじめに 7.3.2 Decoderクラス …

はじめに 『ゼロから作るDeep Learning 2――自然言語処理編』の初学者向け【実装】攻略ノートです。『ゼロつく2』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本の内容を1つずつ確認しながらゆっくりと組んでいきます。 この記事は、7.3.1項「Encoderクラス」の内容です。seq2seqの入力側のRNNであるEncoderの処理を解説して、Pythonで実装します。 【前節の内容】 www.anarchive-beta.com 【他の節の内容】 www.anarchive-beta.com 【この節の内容】 はじめに 7.3.1 Encoderクラス …

今度は分類問題に対応した NN 実装を考える。 とはいえ、テンプレは 前回記事 で作ってるので、さっくり定義する import numpy as np import matplotlib.pyplot as plt %matplotlib inline wb_width = 0.01 # 重みバイアスの広がり方 epoch = 101 # 学習データ数 eta = 0.1 # 学習係数 # 各層のニューロン数 n_in = 2 n_mid = 6 n_out = 2 class Neuron: def __init__(self, n_upper, n, activation_function…

と言っても機械学習的な意味で。 単純に勾配降下法を適用すると、局所解に捕まる問題は先に述べた通り。 分かりやすくサンプルを考えてみると import numpy as np import matplotlib.pyplot as plt def func(x): return x*x*x*x + 2*x*x*x + -38*x*x + 2*x X = np.arange(-10, 10, 0.02) Y = func(X) plt.plot(X, Y) plt.show() 微分済みの関数は def delta_func(x): return 4*x*x*x + 6*x*x -76*x + 2…

今回は、ディープラーニングの最適化関数について説明をしたいと思います。 最適化関数とは 最適化関数とはパラメータを更新する方法です。コスト関数が正解と予測の損失を計算するのに対し、損失が最小化するようにどのようにパラメータを更新していくのかを決める関数となります。最適化関数は色々ありますが、3回程度に分けてSGD、Momentum SGD、AdaGrad、RMSProp、Adamについて説明をしていきたいと思います。 SGDとは 確率的勾配降下法(stochastic gradient descent)と呼ばれ、SGDと呼ばれます。 コスト関数を微分した結果をとしたとき、 で、パラメータを更新…