機械学習

ニューラルネットワークにおける各層の線形変換の直後には、必ず活性化関数が挟まれています。 今回は、「なぜ ReLU が好まれるのか」についてまとめておきます。 [目次] 活性化関数 中間層における活性化関数 出力層における活性化関数 中間層で ReLU がよく使われる理由 誤差逆伝播法 損失関数の微分の値 ニューラルネットワークにおいて おわりに おまけ（関数のコード） 関数 関数の微分 Error 活性化関数 まず、活性化関数は、中間層のものと出力層のものでは求められる役割が異なることに注意しておきます。 中間層における活性化関数 その後も線形変換が続くため、一旦非線形にするのが主な役割。非…

AIを使うばかりでなく、自分で作って利用する時代になった。10年前にここまでになるなんてこと、考えてもいなかった。RPA（ロボティック・プロセス・オートメーション）といって業務の自動化も可能になった。そうなってくると自分でも何かしたくなろうというもの。 (adsbygoogle = window.adsbygoogle || []).push({}); だいぶ前に機械学習によく使われるPythonを始めたという記事を書いたが、こえがそれ以来止まっていた。今回それを再スタートするということ。 mnoguti.hatenablog.com さて、再スタートにあたって、何をするか・・・昔、ほぼ30年…

機械学習の実践例として、プロ野球選手の成績と年俸のデータを使って、機械学習モデルの作成・予測実行してみました。イメージは以下のとおりです。 準備 Pythonの設定 プログラムはPythonを使用し、機械学習のアルゴリズムは、Kaggle等のデータ分析コンペでも人気のLightGBMを使用します。 Pythonの設定方法・使い方については、必要に応じて過去の記事をご確認ください。 データサイエンティストを目指す方向け Pythonセットアップ方法（Windows版） - Kevin's Data Analytics Blog Jupyter Notebook：データサイエンティストを目指す方に…

はじめに 21年新卒エンジニアの本川です。広告コンテンツ開発チーム（以下、ACD開発チーム）の機械学習エンジニアとして入社しました。 今回は21卒振り返りTechBlogの最終回で第6回目となっています。 第1回〜第5回の記事は下記リンクから読めるので、ぜひ読んでみてください！ engineer.retty.me はじめに 自己紹介 大学で学んだこと インターン・入社の経緯 広告コンテンツ開発チームの紹介 半年間の振り返り 機械学習モデルをサービスインさせることの難しさ ビジネスチームとの連携 インターン生のメンタリング 今後やっていきたいこと 自己紹介 大学で学んだこと 学部・修士ともに情報…

kubernetes（k8s）を使って，ラボのWorkStation環境を再構成したので備忘録として残します． はじめに 構成 WS-Masterの準備 ポートの開放 Swap領域のオフ Dockerの設定 Dockerのインストール デーモンをセットアップ dockerを再起動 k8sのインストールと設定 kubeadm, kubectl, kubeletのインストール クラスターを作成 flannelのインストール kubernetes Device Pluginの有効化 k8s-device-plugin WS-Workerの準備 ポートの開放 Swap領域のオフ Dockerの設定 n…

備忘目的でブログを始めました。 数学専攻出身で主に画像系の機械学習の研究開発をやっています。 主に以下のコンテンツを紹介する予定です(適宜修正)。 ・数学 ・統計学 ・機械学習(深層学習) ・画像処理

『The Bayesian Learning Rule』を読む 以下を読む。 Khan, M. E., & Rue, H. (2021). The Bayesian learning rule. arXiv preprint arXiv:2107.04562. https://arxiv.org/pdf/2107.04562.pdf 読む目的 読む目的は2つ。 注目の論文として紹介されていたから この類の数式が0%しか読めないので、少し、勉強するため 概要 引用(Deepl訳) 多くの機械学習アルゴリズムが、ベイズ学習則と呼ばれる単一のアルゴリズムの特定のインスタンスであることを示す。ベイズの…

みなさんこんにちは、電通国際情報サービス（ISID）Xイノベーション本部ソフトウェアデザインセンターの佐藤太一です。 この記事では、Git を使った仕事のやり方（以降は Git ワークフローと記載）を設計する上での検討事項を説明します。 これによって、読者の皆さんがGitワークフローを適切に定義できるようになることを主たる目的としています。 また、筆者の能力不足によって記載しきれなかった考慮事項について、より深く Git を使いこなしている識者からの指摘を受ける機会を得ることを副次的な目的とします。 この記事には書かれていないものの、検討すべき事項について知見のある方はブログ記事を書いたり、T…

NGK2022SでAIマリオに関してLTしました NGK2022SでAIマリオに関して発表しました。NGK・NGK2022Sが何かというとConnpass参照ください（以下引用）。お誘いいただき、今回始めて参加させていただきました。 NGK（名古屋合同懇親会）とは、1年に1度行っている東海地方IT系コミュニティ合同の懇親会イベントです。 14回目となる NGK2022S は、前回同様LT大会を行います。 当日の動画は以下になります。 「AIマリオで全ステージクリアチャレンジ」 私の発表した内容は、以前ブログ記事にも書いたAIマリオに関してです。 発表資料は以下です。 AIマリオで全ステージクリ…

さらに年が明けてから振り返るスタイル...(いいわけ) 未来の自分のために年１やっている振り返りシリーズ、今度はこのブログ関係やこの1年で技術面でやったこと、学んだことなどをおしごと編とも被っていますが振り返ってみます。 TypeScript風にしてみました

今週も筋トレに2回いったし、３回走った。シュレディンガーの体重も週１で測ろうという気持ちになり、1回測ったら先週と比べて0.3kg減、つまり誤差。まぁ週末酷かったから増えなかっただけよかっただろうという感じにしておいた。 労は普通、つまり相対的に良いということだ（労はデフォルトで悪いので）。最近はクラウド上に自分用データ分析基盤の試作みたいなことを淡々としている。一人でぐぐったりしながらゆっくりと、ほかの人と完全に違うことをしている感じになっており、それで良いんだっけーと思ってたのだけれど、上司にやんわり聞いてみたらどうやら良いらしい。ほっといても一人で色々やってそれなりに組織に貢献するだろう…

出版社の方から、「本の章・節に書かれる予定の内容（＋ そこから容易に推測できる範囲の内容）は、SNS の投稿・ツイートなど広く見えるところに出しても良い」という話が出たので、ブログ記事を書いてみます。 【技術評論社さんから出る #M5Stack の本で作例パートの一部を書きました】出版社さんから出る技術書を書いたのは初めてになります。豪華執筆陣の皆さまにまぜていただき「 #UIFlow ＋ネット経由でのデータ通信」を含む作例について書きました！3/25（金）発売予定です！https://t.co/QT3MoAtsyU— you (@youtoy) 2022年1月23日 発売は 3/25 の予定…

どーも、お久しぶりです。主婦のkeropiyo です。 なんと！今日は「親子で小中高校生向け量子コンピュータプログラミング勉強会」というイベントを見つけたので参加してみました！ blueqat.com 「親子で量子コンピュータを学ぶ」っというイベントが開催されるなんて凄いことです！ ここ数年で驚くべき変化です！ しかも小中高校生向けって書いてあるし、うちの小学３年生の次男にも、わかるのもしれない！！ かなりのワクワクです！！ 事前準備として、上のリンク先のサイトを音読させてみたら、「実情」以外は全部読めていたので、なんとか理解できるかもしれないっと、他には何も事前準備はせずに参加してみました。…

昨日の夜ぐらいからずっとやってた。もう昼、本当は土日で確定申告の作業やらなきゃなのに…くそねみ mlbot触ってみて 執行（売買ルール的な）と特徴量であれば、執行のほうが大事 特徴量を使った機械学習はフィルター的意味合いが強い っていうのがわかった 前に本で読んだ結構複雑な執行を入れたんだけど低頻度だし、計算に時間かかるので多分実運用で死ぬ 単純にコーディングのスキルが低いので高速化もできないので、運用諦めた richmanbtcは損切りを入れずにゼロカットでリスクコントロールしてるらしい。まじ？ 裁量トレーダーの考え方的には損切りは必須なのではと思うので、損切りを含んだ執行を考えたい -> …

Python3 エンジニア認定データ分析試験を受けました。 そして、合格できました。 試験レポート 試験対策 テキスト読み込み 公認テキストであるPythonによるデータ分析の教科書を読みました。 業務でPythonを使っているので、一度は見たことがある内容が多かったです。 しかし、pandasと機械学習のあたりは初見だったため、付録コードをjupyter notebookで実行しながら読みました。 ここにかけた時間は2日（4時間程）です。 メインの対策は↓の2種類の模擬試験です。合計12回解きました。 PRIME STUDYは解説が詳しいので、まずこちらで勉強し、模擬試験第3回は試験前の最終…

今回は SwiftUI において、AsyncImageを使ってURLの画像を表示させる方法についてメモしておきます。 AsyncImage 「URL の画像を表示させる方法」について調べると色々とややこしそうな方法が出てくるのですが、 Xcode13 & iOS15からは簡単にかける方法があり、それがAsyncImageです。 名前から想像のつくように、「非同期で画像をロードし表示させる」ということを行なっています。 使い方 使い方を簡単に説明します（詳しくは公式のドキュメントを参照）。 ローカルの Asset を表示させるときに使っていたImageの部分を、以下のようにAsyncImageに…

機械学習で遊ぼう、という、からあげ先生の楽しいチャレンジ。 karaage.hatenadiary.jp ゼロから作るスキルもないし、強化学習は初めてトライ。報酬とちょっとしたハイパーパラメータの調整程度でとりあえずは楽しめる。 楽しむ手順１ 強化学習時の報酬を調整する。 class CustomRewardAndDoneEnv(gym.Wrapper): こちらの報酬をうまく調整する。メリハリつけた報酬がいいらしい。ただ、気が付いたのは、Lifeが減らない・・・。ゴールに他とりつく前に最適化しちゃって、いくら学習しても同じポイントで死んでしまうようになったら、再調整。 楽しむ手順2 パラメー…