Hatena Blog Tags
はてなブログ トップ
Data augmentation
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Data augmentation

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
ローカルLLM自由帳•10ヶ月前

【LLM論文を読む】テキスト分類のためのデータ拡張（Data Augmentation）

LLMに知識を追加するためのファインチューン手法を調べていたところ、限られたデータセットを量的に拡張する「データ拡張/Data Augmentation」という研究領域があることを知りました。 簡単に見てみると、データ拡張はテキストAIよりも画像AI・音声AIなどの分野で先行して注目されてきたそうです。 例えば「画像データの左右を反転させてデータ数を2倍にする」などStableDiffusionのLoRA学習でお馴染みの方法も、一種のデータ拡張と位置付けられるようです。 今回は言語モデルの学習におけるデータ拡張について知りたかったので、以下のサーベイ論文を斜め読みしてみました。 arxiv.o…

#LLM#データ拡張#Data augmentation

関連ブログ

なんちゃってプログラマーの日記•5日前

ファインチューニングとは？AIモデルをさらに賢くする技術

近年のAI技術では、すでに学習済みの大規模モデルをベースにして特定の用途に適応させる「ファインチューニング」が注目を集めています。GPTやBERTなどの事前学習済みモデルを使い、効率的にカスタマイズを行うことで、幅広い分野で高い精度を実現することが可能です。 本記事では、ファインチューニングの概要、メリットと課題、さらに具体的な手順や活用例について解説します。 ファインチューニングとは？ ファインチューニングとは、大規模な事前学習済みモデル（Pre-trained Model）を特定のタスクに最適化するために再学習させるプロセスを指します。 例えば、以下のような場面で活用されます： BERTモ…

UE4の勉強記録•13日前

UE5の勉強 -映像作品としてのLandscapeを作成する-

1. 今週の予定 以下の内容を勉強します。 映像作品としてのLevelの作成 AIの勉強 Nvidia Omniverseの勉強 Gaeaの勉強 Houdiniの勉強 VFXの勉強 DirectX12の勉強 2. 映像作品としてのLevelの作成 2.1 PCGの勉強 2.1.1 Get Started With PCG 5.4 By Creating a Full Building | UE 5.4 P1 [1]の続きを実装する 先週勉強した内容を実装します。 ＜Loop Counter Subgraph＞ BPのVariablesにFloorsを追加しました。 Get Actor Prop…

UE4の勉強記録•20日前

UE5の勉強 -映像作品としてのLandscapeを作成する-

1. 今週の予定 以下の内容を勉強します。 映像作品としてのLevelの作成 AIの勉強 Nvidia Omniverseの勉強 Gaeaの勉強 Houdiniの勉強 VFXの勉強 DirectX12の勉強 2. 映像作品としてのLevelの作成 2.1 PCGの勉強 2.1.1 Get Started With PCG 5.4 By Creating a Full Building | UE 5.4 P1 [1]の続きを勉強する ＜Loop Counter Subgraph＞ 前回までで完成したのは一階だけです。これから高さを管理するParameterを追加して何階でも作成出来るようにします…

UE4の勉強記録•1ヶ月前

UE5の勉強 -映像作品としてのLandscapeを作成する-

1. 今週の予定 以下の内容を勉強します。 映像作品としてのLevelの作成 AIの勉強 Nvidia Omniverseの勉強 Gaeaの勉強 Houdiniの勉強 VFXの勉強 DirectX12の勉強 2. 映像作品としてのLevelの作成 2.1 PCGの勉強 2.1.1 Get Started With PCG 5.4 By Creating a Full Building | UE 5.4 P1 [1]の続きを実装する 同じProject内で色々な事をやっていると一つ失敗した時に全部駄目になってしまいます。 のでPCGに関しての勉強をする専用のProjectを一個作成する事にします…

MicroAd Developers Blog•2ヶ月前

ACM RecSys'24 参加レポート

はじめに こんにちは。マイクロアドで機械学習エンジニアをしている新卒の簀河原です。 この記事では、イタリアはバーリ（Bari）で開催されました ACM RecSys'24 の参加レポートと、広告業界のMLエンジニア目線で興味を持った研究発表を紹介します。 ACM RecSysとは ACM RecSys（The ACM Conference on Recommender Systems）は、推薦システム分野に特化した国際会議です。 2007年にスタートしたRecSysでは、現在の推薦システムの中核をなす技術が数々発表されています。 研究や実務で推薦システムを専門としている方は、RecSysで発表…

UE4の勉強記録•2ヶ月前

UE5の勉強 -映像作品としてのLandscapeを作成する-

1. 今週の予定 以下の内容を勉強します。 映像作品としてのLevelの作成 AIの勉強 Nvidia Omniverseの勉強 Gaeaの勉強 Houdiniの勉強 VFXの勉強 DirectX12の勉強 2. 映像作品としてのLevelの作成 2.1 PCGの勉強 2.1.1 先週の復習 先週何を勉強したのか忘れてしまいました。 復習します。 分かりました。先週はFree Time Coder氏のUnreal PCG Tutorial [1]の内容をまとめたんでした。 以下にそれぞれのTutorialの内容を簡単にまとめ直します。 こうやって見るとまあそこそこ重要な内容を勉強しています。 …

なんとかエンジニアのきろく ... ばばあやこのtech blog•2ヶ月前

RecSys 2024 : Abstract Day 3

https://recsys.acm.org/recsys24/program/ Day3 Keynote : The Power of AI in Recommender and Search Systems: An Industry Perspective Through the Lens of Spotify このセッションでは AI の推薦システムへのインパクトを、Spotify 視点で消化する。広範囲なオーディオのカタログにおいて、Spotigy は アドバンスドなAI-driven 検索と推薦システムにより、ユーザー体験を強化した。これらのシステムは、膨大なトラック、ポッドキャスト…

jiku log•2ヶ月前

「大規模言語モデル入門」を読む　～第8章 文埋め込み～

はじめに 大規模言語モデルの入門書として，山田 育矢 著「大規模言語モデル入門」を読んでいる。本記事は第8章「文埋め込み」の読書メモである。gihyo.jp 目次 はじめに 目次 第8章 文埋め込み 8.1 文埋め込みとは 文埋め込みの目的と必要性 文埋め込みの性能評価 文埋め込みを使わずに文ベクトルを得る手段とその問題点 8.2 文埋め込みモデルSimCSE 対照学習 教師なしSimCSE 教師ありSimCSE 8.3 文埋め込みモデルの実装 8.4 最近傍探索ライブラリFaissを使った検索 まとめと感想 感想 : 文埋め込みの意義について学べた 感想 : 文埋め込みにおける効率的な学習方…