機械学習

こんにちは。こーたろーです。 本日もこちら！ やっていきましょう！第2章のSection 009です！ 全快は全結合の多層パーセプトロン（MLP）で、手書き数字の識別を行いました。 今回は別の画像識別を行っていきます。 「とりあえず動かす！」をテーマにやっているため、とりあえずプログラムを写経して・・・・ どのような処理になっているかを把握します。 以下、こんな感じです。 今回はファッション画像データの分類を行ていきます。 使用するのはFashion MNISTという衣類データが格納されているデータセットを利用します。 １．ライブラリーインポート ２．データセットのロード ３．データの確認 今…

はじめに 近年の音声合成は以下のような構造をとることが多いです。 今まで私は主に音響モデル部分を中心に記事を書いてきました。 しかし意外と重要なのがこのテキスト処理部分です。今回はテキスト処理についてまとめていきます。 テキスト処理ライブラリpyopenjtalk 私も最初は自分でテキスト処理の部分を作っていたのですが、なかなか難しいです。 そこで色々調べてみたところ、pyopenjtalkというテキスト処理のライブラリを知りました。 結論から言うと、日本語のテキスト処理に関してはpyopenjtalkライブラリを使っていればそれで問題ないレベルで素晴らしいライブラリです。 GitHub - …

まとめ 不均衡なデータの分類器を学習するときはundersampling+baggingすべし。 特に以下の場合に、コストを調整する手法やoversampling（SMOTEなど）に対して優れている。 次元数が多い 少数クラスのデータ数（の比率）が少ない 学習データの規模が小さい きっかけ 不均衡なデータを扱う問題に遭遇したので、先人たちの工夫について調べていたところ、以下のツイートを発見した。 imbalanced data に対する対処を勉強していたのだけど，[Wallace et al. ICDM'11] https://t.co/ltQ942lKPm … で「undersampling…

こんにちは。 こーたろーです。 本日も引き続き、「図解速習DEEP LEARNING」 の第２章を行っていきます。 今回は、Web上でニューラルネットワークを体感できるツール「A Neaural Network Playground」を使って、視覚的にニューラルネットワークを体験してみます。 A Neural Network Playground ↑こちらのサイトです。 こちらで色の分類を体感してみます。 回帰、分類ともにできるようですが、今回は分類をやってみました。 青と橙色を分類するモデルを作成できます。 学習データは、 テストデータについては、 こちらのようになっています。 学習前の状態…

久しぶりにAI関連の記事を読みたいと思い、Google Reseachの2020の纏め記事を見て初めて知ったのですが、Googleは機械翻訳の実験として600 Billion個のパラメータを持ったモデル(1パラメータが4Byteとすると2.4TB)を2048台のTPU v3で学習させるという超大規模な実験をやってますね。2048代のTPU v3を4日間使ったので、一般の人が使った場合の利用料金を計算すると、2048[TPU]/32[TPU/v3-32-pod]*32[$/hours]*24[hours/day]*4[day]=$196,608=約2000万円です。一回の試行でこれだけのお金が掛…

こんにちは。こーたろーです。 今日から、データサイエンティストとしてのアウトプットとして、ブログを始めることにしました。是非、データサイエンティストを目指す方々の参考になればと思っています。 また私自身、勉強中な部分も多くあるため、実際に感じている疑問などをブログで書いていき、読んでくださる皆さんが共感が得られるような内容にできればと考えています。 取組むジャンルは様々に考えています。もちろん、データサイエンスが中心です。 第1弾は、深層学習・Deep Learning を動かしてみた！ということで、教材を１冊やってみたいと思います。 今回の図書はこちらです！ ※アフィリエイトをやっていないの…

こんにちは、2020年3月にastamuseに入社したYNと申します。本ブログを書くのははじめてです。どうぞよろしくお願いいたします。 今回は個人的な趣味で、TensorFlowのMetricsやLossesを使ってXGBoostを学習する方法について紹介したいと思います。 動機 GPUの普及もあってか、XGBoostのようなGBDT (Gradient Boosting Decision Tree) 系のライブラリでもGPUサポートがされるようになりました。ところが、XGBoostのV1.3.0のドキュメントを見ると例えばaucprはGPU対応されていません。また、多くのLossがXGBoo…

はじめてブログを投稿しようと思い立ち今ここで文章を書いています。普段あまり文章を書くことがない自分にとっては新鮮な出来事です。 特に何かを発信することはないし、なにかマネタイズしてやろうともおもわない。 じゃあお前は何を書くんだと言われれば、「いやまあなんとなくはじめてみただけだし、、、」と答えるだけです。 当面はなにかテーマを決めることもなく、これが友達や知り合いに見られても恥ずかしくない程度に色々と書き記すことにしようと思います。 2021年の目標 今回は目標を公言して、投稿を終えようと思います。社会人になってから（社会人って言い忘れてたが）、年末年始に反省と目標をメモに書いています。 こ…

1. 予想数値について 2. 印について 3. 推奨馬について 4. (注意)除外される馬について 5. 一部の馬について注意点 6. 予想数値についての補足 7. 馬券の購入について 2021/01/09 うまたんver1.1 update 2021/01/18 はてなブログに移行 1. 予想数値について うまたんで提供している予想数値は、3着以内にその馬が入るであろう確率を示しています。つまりこの数値が高ければ高いほど、馬券に絡む確率が大きいということです。参考として、例としてジャパンCの予想数値を貼っておきます。[ ]内が予測数値です。 2. 印について 各馬につけている印は正直言ってた…

家のゲーム用パソコンのGPUを使ってスーパーマリオの強化学習の続きをやってみました。 これまでの取り組み a1026302.hatenablog.coma1026302.hatenablog.coma1026302.hatenablog.com GPUに切り替えて苦労したところ GPUメモリ不足 現象 学習中に以下のメッセージを出力して処理が中断してしまい困りました。 RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 2.70 GiB already al…

今回はディープラーニング入門編のその1です。まずは簡単な概念から説明していき、最終的にはPythonでニューラルネットワークを構築していきます。 （※）Keras、Scikit-learnなどのライブラリーには直ぐに使える深層学習のフレームワークが多数ありますが、今回はディープラーニングを理解するためお馴染みのnumpyとmatplotlibのみ使用して構築します。 【ディープラーニングとは】 そもそもディープラーニングは、人間の脳のニューラルネットワークに触発された機械学習の一分野です。10年以上前からある理論ですが、計算の進歩と膨大な量のデータの可用性により、従来の機械学習よりも優れている…

「キカガク」の「脱ブラックボックスコース」を受講している。 www.kikagaku.ai ずっと機械学習には興味があったものの、忙しさを理由にしたり、とっかかりが見つけられなかったりで、なかなか学習に手をつけられなかったのだけれど、正月にこの講座を発見して、「1月中には必ず少しだけでも始めよう」と決意し、本日ようやく始めることになった。 講義の内容は、(多少予想はしていたけど)まずは数学の解説だった。最後に数学を勉強したのは高校時代で、もう10年以上数学からはなれている。そして、(この業界にいるにも関わらず)数学は不得手に近い。確率論や期待値は理解できたけど*1、幾何学的な図形の証明問題や三…

×62 [2101.00440] Refining activation downsampling with SoftPool ×36 550円のマイコンボード「Raspberry Pi Pico」が登場 - PC Watch ×24 ノーコード アプリ開発の現状 | Google Cloud Blog ×23 At the Inauguration, Amanda Gorman Wove History and the Future Into a Stirring Melody - The New York Times ×21 第1話 機械学習の仕事内容って？実はコードを書くだけじゃない！【…

×81 サーバーレスの勉強方法を聞いてみた。- builders.flash☆ - 変化を求めるデベロッパーを応援するウェブマガジン | AWS ×56 ヤフーの検索基盤と機械学習検索ランキング #yjtc / YJTC21 B-7 ×53 10,000 Hours With Claude Shannon: How A Genius Thinks, Works, and Lives | by Jimmy Soni | Mission.org | Medium ×44 [タイトルが取得できませんでした] ×40 Loon’s final flight. Loon’s time as an Oth…

×109 コインチェック暗号資産流出事件 31人を検挙 190億円分交換か | NHKニュース ×70 流出NEM交換容疑、31人立件 ダークウェブで計188億円（共同通信） - Yahoo!ニュース ×48 脱PPAPがにわかに盛り上がっていますが、結局のところどの代替案がベストなのかさっぱりわかりません。 徳丸先生のお勧め方式を教えていただけないでしょうか？ - ockeghem page ×47 米インテルにハッキングか 発表前の決算情報盗まれる - 産経ニュース ×46 [タイトルが取得できませんでした] ×44 「Nで固まるデッキはデッキじゃない」 - 猫はやっぱりノルウェージャン！…

今日NGS解析に進捗がほんの少し生まれたので書いておく。 まず渡されたbamファイルからunmappedリードを取り出す。 共生特異的なリード結果を無菌のものにマッピングした結果である。 ここからunmappedリードを取り出したことによって実際共生菌のみのリードを取り出すことができた。 なので次にこのunmappedリードを共生特異的ランの全リードデータから引けば、実際にランのみで発現していたリードを取り出すことが可能になる。 なので次にやる作業はbamファイル（リード）同士の引き算。 bamファイル、つまりバイナリファイル同士の比較をすればよいのだが、この比較の方法がいまいちわからん。 コ…

気がつくと二ヶ月も空白が。。。久しぶりにブログ更新しま〜す。 「オードリー・タン 天才IT相7つの顔」のご紹介。 台湾の若きIT大臣で、マスクを公平に配布するシステムを作った人。ニュースで見聞きしていたオードリー･タンに関する情報はそれくらいでした。 不思議な雰囲気の人だなあ、ってのが写真をみたときに感じたこと。(山下達郎？と一瞬見間違えたｗ)そこからなんだか気になっていて、Kindleのおすすめに上がってきていたのを読んでみたのです。 本では彼女の7つの顔がひとつずつエピソードとして紹介されています。 ひとつめは、IT大臣としての顔。台湾にはｇ0ｖ（零時政府・ゼロガバメント）というシビックハ…

はじめに 研究開発Grで機械学習関連の業務を担当している瀬戸です。前回は、GluonCVのモデルをSageMaker Neo + Jetson tx2 + DLRで動作させてみる - aptpod Tech Blogを紹介させて頂きました。今回は、intdash SDK for PythonとGluonCVを組み合わせた深度推論のモックを紹介したいと思います。 構成イメージ 今回のシステムの構成は以下の通りになります。手元のPCから、intdash SDK for Python + OpenCV + MXNet + GluonCVを使って、DeepLearningで推論した深度画像をintda…

dipのアドベントカレンダー こんにちは、2020年新卒で入社し、求人系サービスの開発や社内向けツールの開発を行なっている @naoya_prin です。 今回は12/1~12/25に有志で行なったディップ Advent Calendar 2020について紹介します！ Advent Calendar って？ アドベントカレンダーとはクリスマスまでの期間に日数を数えるために使用されるカレンダーのことを指しますが、 エンジニア界隈では個人または複数人で記事を書いてクリスマス当日までバトンをつなげていく文化のことを指します！ 弊社は2016年から毎年 Qiita Advent Calendar に参…

（出典）https://papers.nips.cc/paper/2015/file/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf ・Configuration：設定 機械学習システムに必要な設定をする ・Data Collection：データ収集 機械学習するためのサンプルデータを集める ・Data Verification：データ検証 / データ照合 データの不備を検証 ・Feature Extraction：特徴抽出 機械学習に必要な特徴量の抽出 ・Machine Resource Management：マシンのリソース管理 システムを動かすサーバ…

情報開発と利活用20210122 https://ameblo.jp/sfujioka1 ”「日本人消滅」が現実味を帯びる日が来るとは・・・” ========================================インターネット・コンピュータランキング ========================================ネットサービスランキング ======================================== アサヒ飲料 カルピス Lパック 1L 紙パック（口栓付） 1ケース（6本） 【送料無料】楽天市場3,648円 楽天市場で詳細を見る Amazon（ア…

まとめ 前回までではWikiprdiaの文章をモデルに学習させたが、テキストの集合体であればなんでも学習させることができる。 例えば標準語と方言の類似度を調べることもできる。 ・今日も寒いから暖かい格好をしてね ・今日はしばれるから暖かい格好をしてね このようなコーパスがあれば「寒い」と「しばれる（北海道弁）」の意味が類似していることがわかるようになる。 またWord2Vecで単語のベクトル計算など行う時はコーパスの工夫も必要だが、モデル作成時のパラメーターによるチューニングが結果に対して影響を及ぼすので時間をかけて試すか、独自の仕組みを考えていくかしていくことで精度をあげる必要がある。 ・g…

E資格向けの自習アウトプット 自分用メモTensorFlow は、Googleさんが公開している機械学習で便利なライブラリ 現在のところPython では、PyTorch と2大巨頭って感じ？今まで PyTorch 使いなれてきましたが、KPS 的に TensorFlow 使いこなせるようになったほうがよさげなので、この度初挑戦余談ですが、「テンサー」か「テンソル」かは、Googleの中の人もどっちも使うって言ってた（ようするにどっちでもおｋ） なんとなく、ちゃんと学問として線形代数とかやってた人はテンソル派な気がする（なんか頭よさそー） TensorFlow でモデルを作る下準備 まずは開発…