Hatena Blog Tags
はてなブログ トップ
分散学習
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

分散学習

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
CCCMKホールディングス TECH LABの Tech Blog•1年前

Deepspeedを使ったHugging Face ModelのFine Tuningを試してみました

こんにちは、CCCMKホールディングスTECH LABの三浦です。 普段乗り慣れていないので、飛行機に乗る時は少し緊張します。実は今週飛行機に乗って海外に出張することになり、この記事を書き終えたら出発する予定です。行先は人生初のアメリカなので、無事に目的地に着けるかどうかもちょっと心配だったりします。とはいえ色々なことが勉強できるいい機会になりそうなので、楽しみです。向こうで見たことや学んだことは、またこのブログでご紹介できたらと思っています。 最近はオープンソースの様々なLarge Language Modelが公開されるようになりました。それらはAIコミュニティ"Hugging Face"…

#深層学習#分散学習

関連ブログ

読む・聞く・書く•2年前

Essential PySpark Chap1-1

業務で使用するためこの本を読みながらコードとか試していきます。 本のリンクはこちら https://www.amazon.com/Essential-PySpark-Scalable-Data-Analytics/dp/1800568878 Distributed Computing Data Parallel processing 基本的な考え方はデータが分散して保管されている各ストレージにコードを持っていて処理を実行する。この考え方をMapReduceという。 MapReduceを利用した並列処理は大きく三段階ある The Map stage: データをkeyとvalueのペアに変換する。…

#Pyspark#分散学習
CCCMKホールディングス TECH LABの Tech Blog•2年前

分散学習をすると本当に処理時間が速くなるのか、LT用に確かめてみました。

こんにちは、技術開発の三浦です。 最近とても寒い日が続いています。毎年この時期になると手にあかぎれができてしまうので、今年はちょっと外に出る場合も手袋をするように心がけるようにしました。今のところあかぎれはできていないのですが、だんだんできてきそうな感じがしてきたので、ハンドクリームも使うようにしようかな、と考えています。 先日databricksに関するイベントでLT(ライトニングトーク)の機会があり、今回の記事はそのLT用に準備した、最近ちょっと気になっていたことを調べた話をご紹介しようと思います。 調べたこと 私のLTのタイトルは、こちらです。 LTのタイトル Databricksを使い…

#分散学習#機械学習
CCCMKホールディングス TECH LABの Tech Blog•3年前

WGAN-GPをTensorFlowでマルチGPU対応する時のポイント

こんにちは、技術開発ユニットの三浦です。 blogのトップ画像とタイトルが変わりました！これからだんだんと夏が近づいてくる時期にピッタリの、さわやかな感じのトップ画像です。内容は変わらないと思いますので、今後も「CCCマーケティング TECH Lab」のブログをよろしくお願いします。 さて、これまで何度かGANsを使った画像生成の話を紹介してきました。 techblog.cccmk.co.jp techblog.cccmk.co.jp techblog.cccmk.co.jp techblog.cccmk.co.jp GANsに関する基礎的な部分についてはある程度整理することが出来たので、いよ…

#GANs#分散学習#TensorFlow
CCCMKホールディングス TECH LABの Tech Blog•3年前

Distributed Training(分散学習)入門！HorovodとAzure Machine Learningで試してみました。

こんにちは、技術開発ユニットの三浦です。 子どもが図書館から借りてきた本のタイトルを何気なく眺めていたのですが、どれもワクワクするようなタイトルなんですよね。ふかふかのソファーのような雲や、ジュースでいっぱいの池が待っている、そんな夢のような世界に行けてしまいそうな気持ちになります。 最近Distributed Training(分散学習)に興味を持っていて、どんな技術なんだろうと調べ始めました。まだ理解が浅い箇所がいくつもありますが、現段階で理解したことをこの場を借りてご紹介させてください。また、分散学習を実現するフレームワークを使って、MicrosoftのクラウドAzureで実際に分散学習…

#Azure#Azure Machine Learning#Distributed Training#分散学習
雑記ぃド byザクχ•3年前

勉強しています２

ざっく～(^^♪ 今日は天赦日（てんしゃにち・てんしゃび）だそうです。2021年の天赦日は全部で6日あるそうです。 2021年の天赦日は全部で6日！最上の吉日「天赦日」の意味・由来とは？ 検索し▲▲▲こちらで確認しました。勉強の捗った日でした。それと読書もです。 聖書通読は先にやることにしているのですが、これも捗りました。現在は第2コリントを読んでいます。意味が理解できるように、嚙み砕きつつ読むようにしています。 勉強は今は漢字勉強。もちろん意味の解らない言葉も出てきますので辞書でチェック。少しずつですが学んでいます。クイズ化を行なうことは効果的だし素晴らしいと思います。 [rakuten:b…

#勉強していたい！#ポモドーロタイマー#分散学習
暇があるから人である。暇でなければ機械だ•3年前

「分散学習帳」広告なしver

メンタリストDaiGoさんを知っている方はもちろん「分散学習帳」っていうアプリをご存じですよね！物事を頭に入れるためには、期間を空けて脳から問題の答えを絞り出そうとすることが必要だと言われています。分散学習帳は、それを補助してくれるものです。 ですが、使ってみると下のバナーにある広告と、「わからない」を選んだ後の広告がとてもじゃまです。DaiGoさんは、この広告でムカつく、感情が入ることで記憶の定着を助けると言います。なぜなら人間は感情が発生した出来事は大切な情報であり、次に生かす必要があるので脳に記憶しようとするからです。 そうはいっても...ストップがうざいんだ.... と思って、今回分散…

#メンタリスト DaiGo#分散学習#スマホアプリ#勉強#受験
どこから見てもメンダコ•3年前

GKE＋Rayで実装するマルチノード分散並列強化学習

Google Kubernetes Engine (GKE) とpythonの分散処並列理ライブラリRayで安価に大規模分散並列強化学習（Ape-Xアーキテクチャ）の実行環境をつくるチュートリアルです。GKEのプリエンプティブルインスタンスを活用することで、総リソース 128 vCPU, NVIDIA Tesla P4 x1, 256 GB memory のクラスタがざっくり150-200 円/時間になります。（2021年8月時点） はじめに 分散並列強化学習のメリット Ape-X アーキテクチャ なぜGKEを使うか？ プリエンプティブルVMが格安 Autoscalingがお手軽 なぜRayを…

#GKE#Ray#分散学習#強化学習
ホームベーカリーなブログ•4年前

効率のいい学習でおなじみ　分散学習法

最近学んだことはメンタリストDaiGoさん監修の 「分散学習帳」ってもので勉強しよるよ。 これはまあ中学の時に作った単語カードみたいなものなんやけどこれの何がいいかっていうと、分散学習っていう学習法ができるんよね。 分散学習っていうのは簡単に言うと復習の期間をだんだんと伸ばしていって結果的に記憶に定着するっていうやつ。 DaiGoさん曰く、人間は忘れる直前に復習するといいってYoutudeで言っていたような。（不確実でスマン＾＾） 自分で問題を作って、それに正解、失敗するとアプリが何日後に復習とか勝手に決めてくれるから通知に合わせて復習するだけで脳に定着するっていう仕組み。 ちなみにこんな感じ…

#分散学習#分散学習法#暗記法#記憶#長期記憶