Hatena Blog Tags
はてなブログ トップ
LoRA
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

LoRA

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
uepon日々の備忘録•4ヶ月前

AI活用の第一歩｜ファインチューニング・LoRA・RAGの違いを説明できるようにする

ファインチューニング / LoRA / RAG は何が違うの？ AIや大規模言語モデル（LLM）の話をしていると、次のような質問がありますよね。 ファインチューニング（Fine-Tuning） LoRA RAG 最近AIを勉強はじめた方と話をしていると、この3つの違いについて質問されることが多いのです。ただ、違いを明確にして説明してと言われると、自分は結構困ります🥲（そんな即応的な回答は私には無理） 結局、どの機能もモデルを賢くする方法になるのですが、実は「変えている場所」が違います。 今回はこの3つを「何を変える技術なのか」という視点で整理してみました。 まず結論から 簡単にいうと、次のよう…

#LLM#ファインチューニング (Fine-tuning)#LoRA#RAG

ネットで話題

もっと見る
1049ブックマーク生成AIグラビアをグラビアカメラマンが作るとどうなる？第一回：実在モデルで学習・LoRAでキャッチライト付加 (西川和久) | テクノエッジ TechnoEdgewww.techno-edge.net
455ブックマークLoRAを使った学習のやり方まとめ！好きな絵柄・キャラクターのイラストを生成しよう【Stable Diffusion】kurokumasoft.com
356ブックマークラフさえ描けばイラスト作品ほぼ完成　画像生成AI「FLUX.1 Kontext」LoRAが示す制作の未来 (1/5)ascii.jp
223ブックマーク画像生成AI「FLUX.1」が相当ヤバい　LoRAで画風の再現も簡単に (1/5)ascii.jp
180ブックマーク高品質な歌唱付き楽曲を爆速生成できる音楽生成AI「ACE-Step 1.5」が登場、VRAM容量4GB未満のPCでローカル実行可能でLoRAにも対応gigazine.net
178ブックマーク生成AIグラビアをグラビアカメラマンが作るとどうなる？第六回：Stable Diffusionの基本2 / LoRAの概要と6つの例を紹介 (西川和久) | テクノエッジ TechnoEdgewww.techno-edge.net
172ブックマーク日本語Alpacaデータを用いてJapanese-Alpaca-LoRAを作ったので公開します【期間限定デモページあり】｜kun1emonnote.com
152ブックマーク[輪講資料] LoRA: Low-Rank Adaptation of
 Large Language Modelsspeakerdeck.com
141ブックマーク半径10km超のIoT通信を可能に——RSコンポーネンツ、Raspberry Pi用拡張ボード「LoRa／GPS HAT」発売｜fabcrossfabcross.jp

関連ブログ

TalentX Tech Blog•5ヶ月前

MLX-LMによるGPT-OSSファインチューニング実践

機械学習エンジニアの奥村です。 今回は、Apple Silicon Mac上でLLMのファインチューニングを行い、HR（人事・採用）領域に特化したモデルを構築した取り組みを紹介します。 背景：汎用LLMの限界 技術選定 ベースモデル：GPT-OSS 20B 学習フレームワーク：MLX-LM 手法：LoRA データセットの準備 データソース 学習データ形式 トークン数の分布確認 実験設定 設定ファイル LoRAターゲット層の選定について 実行 学習時間とリソース使用量 評価 評価タスク 評価条件 結果 精度サマリー 判定理由の変化（例） 例：ID 9（B→C、不合格者の誤判定を修正） まとめ 参…

#MLX#LoRA#HR tech
Cat & Code & Crimson•6ヶ月前

#3：モデルでモデルを評価する？（個人で挑むカスタムLLM）〜Ollama × Llama 3で自作モデルを採点

はじめに カスタムLLMを作ってみたけれど、 「モデルの性能をどう測るか」で立ち止まる──これは多くの人が経験することです。 この記事では、私自身が試行し、評価方法の一つとして採用している モデルでモデルを評価する という考え方を紹介します。 評価モデルとして使うのは Ollama の Llama 3。 自作モデルをこのLlama 3に採点させることで、定量的な比較を可能にします。 本稿は「個人で挑むカスタムLLM」シリーズの第3回です。初回（#1）では全体像を紹介しています。詳しくは、#1：ギターから始めるRAGラボをご覧ください。 評価のむずかしさ BLEUやROUGEは、単語やフレーズの…

#LLM#カスタムLLM#Python#プログラミング#RAG#LoRA#機械学習#個人開発
Cat & Code & Crimson•6ヶ月前

#1：ギターから始めるRAGラボ（個人で挑むカスタムLLM開発）

1. カスタムLLMとは何か 2. なぜカスタムLLMをつくるのか 3. 実装までの道のり 3.1 モデルをどう扱うか 〜 LLMと向き合う 3.2 ドメイン選定 3.3 ベースモデルの選定 3.4 モデルのチューニング方法 4. RAGという転換点 5. おわりに（次回予告） 1. カスタムLLMとは何か カスタムLLMと聞いて、何を想像されますか？ LLM（Large Language Models、大規模言語モデル）は、chatgpt や copilot といった身近な存在であり、テキストを理解し、生成し、反応するように設計されたニューラルネットワークです。

#LLM#カスタムLLM#Python#プログラミング#RAG#LoRA#機械学習#個人開発
私がChatGPTなどに質問したことを書いていくブログ•7ヶ月前

stable diffusion のLORAって売れますか？

stable diffusion のLORAって売れますか？ ChatGPT: はい、Stable Diffusion用のLoRA（Low-Rank Adaptation）は売れます。実際にAIイラストやAI生成モデルのマーケットでは、LoRAは人気商品のひとつです。 ただ、売れるかどうかは以下のポイント次第です： ✅ 売れやすいLoRAの特徴 需要のあるテーマ 有名キャラクター風（著作権に配慮する必要あり） トレンドのファッション、髪型、ポーズ ニッチなフェティッシュや特定ジャンル（メカ、ケモ耳、レトロ衣装など） プロっぽい画風（特定の画家風、商業イラスト風） 品質 学習画像が多すぎず、汎用…

#LoRA
私がChatGPTなどに質問したことを書いていくブログ•7ヶ月前

kohyaでLORAを複数作ろうとしていたのですが、一つ作ったら必ず次作る物からすごく時間がかかってしまいます、なぜでしょうか？

kohyaでLORAを複数作ろうとしていたのですが、一つ作ったら必ず次作る物からすごく時間がかかってしまいます、なぜでしょうか？ ChatGPT: kohya_ss（Kohya Trainer）でLoRAを複数回続けて作ろうとすると、2回目以降に学習時間や処理時間が極端に長くなる（または止まったようになる）という現象は、以下のような原因が考えられます： ✅ よくある原因と対処法： ① VRAMの開放がされていない（GPUメモリ不足） 1つ目のLoRA学習が終わっても、VRAM（GPUのメモリ）が完全に解放されておらず、2回目以降にメモリ不足で処理が遅延またはフリーズします。 対処法： kohy…

#LoRA
たねやつの木•8ヶ月前

Gemma3:270Mに「ござる」口調をLoRAで学習させてみた

こんにちは、たねやつです。 今回は、Googleがリリースした軽量な大規模言語モデル（LLM）である「Gemma 3 270M」に、特定の口調を学習させるファインチューニングを試してみました。目指すは、武士のような「ござる」口調です！ 比較的小さなモデルでも、LoRAという効率的な手法を使えば、少ない計算資源で独自のキャラクターを持ったモデルを作成できます。その具体的な手順と、結果についての考察を備忘録としてまとめてみました。 この記事でできること 事前に必要なもの 手順 or 作業 開発環境のセットアップ データセットの準備 ファインチューニングの実行 モデルとトークナイザーのロード LoR…

« ＡＩ時代の思考トポロジー v0.1 »•9ヶ月前

LoRA作成のKohya_ssをセットアップ＆ポート変更｜PyTorchエラー等解決｜2025年8月最新

PyTorchが2.7.0から2.7.1になったせいでKohya_ssのセットアップでエラーが出るようになった。 サクッと解決できた。イチからセットアップ手順をメモしておく。 すでにStable Diffusionはインストール済みの状態。すなわち、Python3.10.9やGit、CUDA12.8がインストールできていることを前提にKohya_ssのセットアップをする。 ※Stable Diffusionで使っているPyTorch2.7.1やxformersは、venvでインストールしているはずなので、SDの方で使っているPyTorchなどを削除する必要はない。 Windows11のターミナ…

#StableDiffusion#Stable Diffusion#Kohya#LoRA#AIイラスト#PCトラブル#トラブルシューティング
« ＡＩ時代の思考トポロジー v0.1 »•9ヶ月前

LoRA作成のKohya_ssをセットアップ｜画面映らない 解決｜ポート変更｜Linux Mint 22.1

Linux Mint 22.1にKohya_ssをセットアップする手順のメモ。 トラブル発生＆解決 Kohya_ssをセットアップしたものの、起動したらウェブブラウザーに何も表示されない＝画面が真っ黒になり、色々やってみるも改善しないので苦戦した。 順序としては、venv を有効化して依存パッケージのインストール(pip install -r requirements.txt )したあと、 初めてKohya_ssをコマンドで起動させる(./gui.sh)よりも前に、起動ファイル gui.sh の中身にStable Diffusionとは違うポートを指定したら、すんなり画面が映った。 セットアッ…

#AIイラスト#StableDiffusion#Stable Diffusion#LoRA#Kohya#Linux Mint
(仮) のSeaArt AI 奮闘劇•10ヶ月前

61 - 20:10

こんにちは、(仮) です。 久々の『あれこれ』ですが、 今回はちょっと嬉しい話です。 以前、モデルとLoRAの記事の時に、LoRAは自作できると書きました。 kasyoh.hatenablog.com 今 僕は4つのLoRAを使っています。 内、2つは自分で作ったLoRAです。 最初は、他の方が作ったLoRAを使用していました。 ただ、その時もLoRAを3つか4つ使っていて、そうすると空き枠が1～2*1になり、LoRA枠を圧迫するので、枠の節約のために いつも使っているキャラを元に LoRAを作ることにしました。 何分 初めてだったので、四苦八苦をして、なんとかプロトタイプ1号を完成させました…

#SeaArt#AIアート#生成AI#LoRA#LoRA自作