→ディープラーニング
戦略的思考で勝ち抜く！ボードゲームとKaggleで学ぶ実践的アプローチ 1. はじめに 戦略的思考は、ビジネスやデータサイエンスの分野で成功を収めるために不可欠なスキルです。今回は、ボードゲームを通じてゲーム理論を学ぶ『ゲーム理論の〈裏口〉入門』と、Kaggleコンペティションで成果を出すための実験管理術を解説した『目指せメダリスト！Kaggle実験管理術』の2冊を紹介し、それぞれのアプローチから戦略的思考を深める方法を探ります。 2. ボードゲームで学ぶ戦略的思考 『ゲーム理論の〈裏口〉入門』 https://amzn.to/3HahjNa 野田俊也氏による本書は、ボードゲームを題材にゲーム…
youtu.be 誤読の嵐です😥 桜花賞を（さくらしょう）って言うし、末脚は（諏訪市）。競馬用語の読み方リストを資料に加えたらいいかもしれないけれど、現時点では競馬に関しては使えない。 これは日本競馬だと収集するデータが日本語だけになってしまうからだろう。ビートルズ関連なら超マニアックな話題でも正確に調べて、正確に発音するのに、日本の競馬の話題になるとグダグダになってしまう。 競馬に関してはネットに転がっている情報が石の多い玉石混交で、JRAの公式サイトも文字情報が少ない。深層学習でも基準となる基礎データがウィキペディアぐらいしかないので、競馬関連に関しては阿呆になるのだろう。 というわけで、…
データインテリジェンスチームの黒臺(くろだい)です。 様々なものを対象としてセグメンテーションができるSegment Anything Model(以降SAMと表記)を本記事ではGoogle Colaboratoryで実装をします。SAMモデルの概要について、詳しい説明はこちらの前編記事を参照して下さい。 kdl-di.hatenablog.com 目次 前編のまとめ 実践編①自動でセグメンテーションを行う場合 実践編②ポイントプロンプトを使いセグメンテーションを行う場合 実践編③ボックスプロンプトを使いセグメンテーションを行う場合 まとめ 最後に 参考資料 出典 前編のまとめ 前編の記事では…
まとめ LLMのPost-trainingに関するコードがそのままでは動かなかったので、改良して動くようにします。 なぜこのような作業を始めたのですか？ 私は機械学習理論の専門家です。LLMに対するMonte Carlo tree search (MCTS) の論文に興味があったので、関連論文の結果を再現しようとしました。 きっかけ 最初にこのtweetを見たのがきっかけです。 Beautiful Paper.A comprehensive survey of post-training methods including fine-tuning, reinforcement learning…
週末株式会社です。 DeepSeekのAIモデルは、よくできているように見えるが、奇跡的とまで言えないのではかいか。 普遍的なこととして、どんな技術も、それが世の中に必要とされるものであるならば、その技術は、必ず模倣され、より低コストで、より効率のよいものに取って代わられるものです。 例えば、IBMのスーパーコンピューター「ディープ・ブルー（Deep Blue）」がチェスの世界チャンピオン、ガルリ・カスパロフを破ったのが1997年。その後、AIは将棋でも名人を破り、DeepMindの開発した囲碁AI「Alpha Go」は囲碁の世界チャンピオンにも勝利した。 AIは、自身が有する特徴である・機械…
こんにちは。私は情報系の学部4年生（院進学予定）です。研究室では主に数理統計の理論について取り組んでいます。そんな私が、Kaggleで開催されていた脳波（EEG）データを扱う「HMSコンペ」で奇跡的に入賞しました。 そしてkaggle Expartになりました。ヤッター 当時の取り組みを振り返りながら解法をまとめたいと思います。 はじめに 背景・自己紹介 学部：情報系（B4 → 院進学予定） 研究室：数理統計（理論中心） Kaggleでの基本的な戦略 フルスクラッチは難しいので、公開ノートブックやディスカッションを参考にする。 少しだけ改変できそうな部分は、AIに助言をもらいながら試行錯誤。 …
はじめに Chief Research Officer (CRO) の岡本です。 2024年のノーベル物理学賞は、「人工ニューラルネットワークを用いた機械学習を可能にする基礎的な発見と発明」に対して、ホップフィールド先生とヒントン先生に贈られました[1]。 ヒントン先生の業績は、誤差逆伝播法、畳込みニューラルネットワーク、深層学習等で大変よく知られたものであると思いますが、ホップフィールド先生の業績、とくにホップフィールド型ニューラルネットワークについては、あまり知られていないかもしれません。 本稿では、ホップフィールド型ニューラルネットワークについて紹介していきたいと思います。 階層型ニュー…
◯AIでの映像に音声メッセージ ディープフェイク、訳すと、深層学習偽物でしょうか。 病気で声を失った人の声が蘇るとか、 亡くなった人の声を再現、 これまでの録音ではなく、 新たにつくることができるなど、 そのメリットは、これまでも 取り上げてきました。 音声、画像、映像制作での偽造、 その著作権などによる問題も難しいところにあります。 ネット上では、個人使用ではいうまでもなく、 それ以外でも、乱用されています。 もう映像、音声もそのまま、信じてはいけない時代となったのですが、 まだ私たちの意識は、それに対応できていません。 見たものを切り取られたものを信じてしまうのです。 ずれやノイズがありま…
深層学習 改訂第２版 (機械学習プロフェッショナルシリーズ)作者:岡谷貴之講談社Amazon はじめに 系列データ RNNとLSTM RNN RNNの構造 RNNの誤差逆伝播 LSTM LSTMの構造 LSTMの誤差逆伝播 RNNとLSTMの更新式の比較 結論 補足：誤差逆伝播の更新式導出に用いた命題の証明 はじめに 株価の変動や文章のような系列データを扱う深層学習モデルに、RNN（Recurrent Neural Network）とLSTM（Long Short Term Memory）があります。RNNは、系列データを扱う基本的なモデルの一種ですが、学習の際に勾配消失が発生しやすく、層を多…
gihyo.jp 上記を読んだところめっちゃ良かったので感想として残しておきます。 自分の場合1回読んだから終わりというより度々振り返りで読み直すことになりそうです。 どんな本？ DNNの高速化（=効率化）という切り口で実装から理論的背景（あれば）まで網羅している本 比較的最近のトピック（モデルマージ）にも触れている 他には生成モデルやLLMで扱われがちな高速化についても触れられている Flash Attention とかも記載されてる 「推論のしくみから紐解く高速化の原理」とあるが学習面についても記載されてる 何が良かったの？ 各背景や実装の手間についても触れているところ 高速化のトレードオ…
ledge.ai
speakerdeck.com
www.slideshare.net
speakerdeck.com
pc.watch.impress.co.jp
ch.nicovideo.jp
note.com
komi.hatenadiary.com
qiita.com
