Hatena Blog Tags
はてなブログ トップ
DeepLearning
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

DeepLearning

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
月影•1ヶ月前

RNNの弱点を克服！グローバル・アテンションの仕組みと計算フローを徹底図解

RNNの「忘れっぽさ」を克服する：グローバル・アテンションの仕組み 投稿日：2026年5月5日 | カテゴリ：機械学習 / NLP 1. 従来のRNNが抱えていた「ボトルネック」 深層学習において文字を学習するエンべディングの手段としてSeq2Seq（系列変換モデル）があります。しかし、この初期のSeq2Seqでは、エンコーダが読み込んだ情報を最終的に「一つの固定長ベクトル」に無理やり詰め込み、それをデコーダに渡していました。 しかし、この方法には致命的な弱点がありました。文章が長くなればなるほど、最初の方に入力された情報が薄まり、デコーダに届く頃には失われてしまうのです。これを「長期依存性の…

#機械学習#NLP#DeepLearning#アテンション#自然言語処理#AI

関連ブログ

ACES エンジニアブログ•4ヶ月前

AIエンジニアは何者か（どこから来て、どこへ行くのか）

1. はじめに こんにちは。株式会社ACESでAIエンジニアのEMをしている阿久澤(@kei_akuzawa)です。先日、温泉施設でほぼ丸一日間のデジタルデトックスを行いましたが、効果絶大ですね。最近は”AI疲れ”なんて言葉もありますが、こうした息抜きは忘れないようにしたいものです。 さて、冒頭で私は「AIエンジニアの」と自己紹介させていただきました。でも、この自己紹介って実は結構モヤモヤするんですよね。AIエンジニアという職種は新しく、AIの急激な発展にともなってその守備範囲は刻一刻と変化しています。さまざまな会社さんの求人票を見させていただいても重視されている観点は千差万別です。最近流行り…

#AIエンジニア#エンジニア採用#大規模言語モデル#DeepLearning
誰かの技術置き場•4ヶ月前

画像分類モデルの特徴量を可視化してみる【備忘録】

お疲れ様です。 今回は画像分類モデルが分類の判断に使用する特徴量を可視化してみる回です。 モデルがどのように画像の特徴をとらえているかをおおまかに知ることができ、例えばデータセットの見直しなどでモデルの精度改善の検討ができるようになるかと思います。 ソースコード 例によってソースコードはこちらの画像分類モデルをまとめたリポジトリに残しています。 使用するだけなら学習済みモデルを用意し、main_inference_feature.pyを実行してもらえれば使用できます。 github.com 処理内容 処理の流れとしては以下のような感じです。 データセットを使用してモデルを作成 推論を実行しその…

#画像処理#DeepLearning#Python#Pytorch
誰かの技術置き場•5ヶ月前

画像分類モデルSEResNeXtについて調べたまとめ

お疲れ様です。 画像分類モデルのSEResNeXtについてのメモです。 個人的にCNNベースの画像分類のモデルアーキテクチャとしてはEfficientNetV2と並んでよく使います。 論文 SEResNeXtの重要なアーキテクチャであるSEブロックに関する論文です。 後の概要にも記載がありますがSEブロックと画像分類モデルResNeXtを組み合わせたものがSEResNeXtと呼ばれています。 arxiv.org 概要（from ChatGPT） SEResNeXt（Squeeze-and-Excitation ResNeXt）は、 ResNeXt に SE（Squeeze-and-Excita…

#画像分類#DeepLearning#Pytorch#Python
あきらぼ•5ヶ月前

DETRで顔検出をしようとしてうまくいかなかった話（未解決）

今回はあるアプリケーションを作りたくてラップトップGPUで動く顔検出が必要だったのですが、ちょうどいいのがなかったので、改めて自分で作ってみようと思いました。 既存のCNNで作っても良かったのですがせっかくなのでTransformer系を使ってみたいと思い、今回はDETRで実装してみることにしました。 環境 データセット 実装 試行錯誤 環境 今回はRTX3050 Laptopを積んだゲーミングラップトップのWSL上で開発を行いました。 データセット 今回は顔検出＋目の位置を検出したかったので、WiderFaceのデータセットを使いました。 WIDER FACE: A Face Detecti…

#DETR#Pytorch#AI#DeepLearning
誰かの技術置き場•9ヶ月前

画像分類モデルDeiTを実際に動かしてみた

お疲れ様です。 前回の記事でDeiTについて調べたので実際にコード実装し動作できるようにしました。 前回の記事 fallpoke-tech.hatenadiary.jp ソースコード 実装したコードはこちらに置いています。 過去に作成したコードを改良したものになります モデルアーキテクチャと事前学習モデルはtimmから利用しています。 （ついでにuv対応や学習データセットの仕様変更も対応しました。） github.com データセットの実装を変更すれば自分で用意したデータを使用することもできると思います。 実行 実際に実行した内容をこちらにも残しておきます。 学習に使用したデータは以下になりま…

#Python#画像処理#DeiT#機械学習#DeepLearning
Zuchy-43’s blog•10ヶ月前

学習ログ：2026/08/24

# 学習ログ：2026/08/24 ## 今日の学習内容 **参考書・教材** - O'REILLY 「ゼロから作るDeep Learning」初版 **進捗** - 第6章「学習に関するテクニック」- 6.2 重みの初期値 **エラー・つまずきポイント** - 写経したうえで実行し、実行してもエラーにならないが、結果が異なる- この場合は、間違っている個所を見つけるのが難しい- たいていは、1文字違いや小数点の位置が違うとか、一目見ただけでは見つけないことが多い --- ## 学習にまつわる雑談- Duolingoの連続学習、365日連続を達成！ --- ## 学習以外の日常- 前日土曜日は…

#学習ログ#機械学習#DeepLearning#Python#日常#日記
Zuchy-43’s blog•10ヶ月前

学習ログ：2025/08/10

# 学習ログ：2025/08/09 ## 今日の学習内容 **参考書** O'REILLY 「ゼロから作るDeep Learning」初版 **進捗** - 第3章「ニューラルネットワーク」を終了 - 基本的に本にあるコードを写経 - 発行が2016年11月（初版第5刷）と古く、サンプルコードも古いため一部エラー発生 **エラー内容** MNISTデータのダウンロードURLが変更されており、元のURLではファイルが見つからない。 参考にしたサイト： - [MNIST データセットをダウンロードしたい](https://zenn.dev/kumazo/articles/d635cca42727b…

#学習ログ#DeepLearning#Python#Kaggle#ゼロから作るDeepLearning#日常
datacollector’s blog•1年前

【人工知能】基礎から実践まで：AI学習を加速する5つのWebサイト

人工知能（AI）の学習需要は日々増加しており、理論的な基礎から実際の応用まで、各段階で効率的なリソースのサポートが求められています。初心者から深い研究を目指す開発者まで、適切なプラットフォームを選ぶことが重要です。これらのAI学習プラットフォームはそれぞれに特色があり、学習者に多様なツールとリソースを提供し、学習効率と実践力を高める手助けをします。 1.HuggingFace HuggingFaceは、自然言語処理（NLP）と生成AIに特化したリーディングプラットフォームで、オープンソースのTransformerライブラリや豊富な事前学習済みモデル（BERTやGPTなど）を提供しています。開発…

#AI#人工知能#機械学習#NLP#自然言語処理#Python#プログラミング#初心者#学習#DeepLearning