Hatena Blog Tags
はてなブログ トップ
ローカル LLM
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

ローカル LLM

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
uepon日々の備忘録•14日前

LLMモデルをダウンロードしたのに「動かない…🥲」を防ぐ。AIモデル選択に使える「LLM Checker」

「自分のPCの中だけでAIを動かしてみたい」と思って、モデルを探してダウンロードしてみる。ところが、いざ動かそうとしたら重すぎて動かない、あるいはメモリに収まらずエラーで止まってしまう…。 ローカルLLMCPを触りはじめると、わりとよくあるのがこのパターンです。 モデルのファイルは数GBあることも多いので、ダウンロードし終わってから「あちゃー、これ自分のPCじゃ無理だったか…」となると、なかなかガッカリします。 この「ダウンロードしてから気づく」を、先回りして防いでくれるのが「LLM Checker」というツールでした。 このツールは、次のGIGAZINEさんの記事で知りました。 参考：無料で…

#ローカル LLM#AI

ネットで話題

もっと見る
1060ブックマーク最近ローカルLLMがアツいらしい最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのよう...soysoftware.sakura.ne.jp
556ブックマークローカルLLMのPoCに300万円使う前に読んでほしい話｜dx_notenote.com
483ブックマーク無料で使えるAI｢ローカルLLM｣の進化がすごいよって話www.gizmodo.jp
465ブックマークMacBookで無料AI。｢ローカルLLM｣がいい感じに進化してますwww.gizmodo.jp
463ブックマークみんなこれでいいAI。Googleの最新ローカルLLM｢Gemma 4｣は日本語うますぎ、でも無料www.gizmodo.jp
456ブックマークローカルLLMは次世代エロゲの夢を見るか｜黒神note.com
418ブックマーク16GB のノートPC でも、Claude Code + ローカル LLM は本気で使える — CodeRouter で Tool Call が安定するまで(2026年7月版)｜zephel01note.com
397ブックマークMacBookで動くし、ぶっ壊れ性能。いま最強のローカルLLM｢Qwen3.5｣を解説しちゃうwww.gizmodo.jp
395ブックマークGoogleが「Gemma 4 12B」をリリース。ノートPCで動いて26B級の性能、またお化けローカルLLM | ギズモード・ジャパンwww.gizmodo.jp

関連ブログ

toripoyo’s blog•20日前

iGPU格安マシンではじめるClaude Codeもどき（LM Studio + Hermes Agent）

いろいろとハマりどころがあったのでメモ。 2026/7 時点での情報なので、今後3か月もすれば陳腐化すると思われる 想定ユースケース Hermes Agent（Claude Codeもどき）を使い、リポジトリの編集を担当させる VSCodeの拡張機能からエージェントとして使う すぐ回答が欲しいものはクラウドモデルを使い、軽作業やバックグラウンドタスクはローカルに任せる役割分担です。 「リアルタイム性を求めない」というところが格安編成にする上での割り切りポイントです。 マシン選定 私はRyzen AI HX 370搭載の64GBマシンを選びました。 iGPUがそれなりに強力なマシンなら何でもいい…

#ローカル LLM#lmstudio#OPENCODE
IDCF テックブログ•1ヶ月前

ClaudeCode × Unsloth × Gemma4でファインチューニングして上司をAI化した件。

こんにちは！IDCフロンティアでAIインフラや生成AIの検証を担当している中嶋です。 以前ローカルLLMの構築についての記事を公開しましたが、今回はその続編となります！ blog.idcf.jp 今回は、導入したDGX Sparkを使用して、私の上司の発言をデータセットにファインチューニングを行いました。 ローカルLLM導入後の活用事例として、またファインチューニングに興味がある方々へ参考になれば幸いです。

#ClaudeCode#Unsloth#Gemma 4#ローカル LLM
drambuieの日記•1ヶ月前

リタイヤ後、俺はスキャンしてAI人間になる！：AI時代の日記の活用法（AI生成記事）

リタイヤ後、俺はスキャンしてAI人間になる！：AI時代の日記の活用法 ※ほぼAIが生成した記事です。 最近は、日々の日記やメモ書きもパソコンやスマホで済ませていますが、過去には紙の日記帳、手帳などを使っていました。 紙の手帳はそれはそれで、秘密をこっそりカバンに入れているようで、楽しかったですね。能率手帳の鉄道路線図を見て、旅行プランを考えるという現実逃避、あるいは東海道線の駅を端から覚えるという記憶ゲーム。いろいろと使い道がありました。 リタイヤ後、そうしたアナログデータの整理をしようと思っていますが、AI時代になり、活用の幅が広がっています。 とにかくAIにぶち込んでおけば、なんとかしてく…

#ローカル LLM#自分専用AI
フェルマータ•1ヶ月前

ローカルLLMで動かす記憶を持ったおうち用エージェントを作った

はじめに 前回、記憶を持った家庭用エージェントが欲しい、という話を書いた。 shurabap.hatenablog.jp これはコンセプトがちょっと特殊だったので、一旦コンセプトのところと自分の動機のところを書いておいて、 とりあえずまあ動くよね、という程度のところの概念検証をしていた。 ここ一週間くらいで追加実装をしていってある程度動くようになってきたし、限界も見えてきたので記事にした。 自作で AI エージェント作っている人向けの記事ではあるが、そんな需要あるのかしら？ 閑話休題、改めて下記が今回の開発における最もプリミティブな要求となる。 家庭内をある程度知っていてくれる AI エージェ…

#AI#生成 AI#ローカル LLM#Qwen#EVO-X2
uepon日々の備忘録•1ヶ月前

待っていたゾ🤗「ちょうどいい」ローカルLLM Gemma 4 12B QATを整理してみる

ローカルLLM環境をいろいろ触っていると、必ずぶつかるのがVRAMの壁なんですよね。12Bクラスのモデルをbf16のまま動かそうとすると、重みだけで約24GBのメモリが必要になり、手元のGPUでは厳しい…という場面が多いのではないでしょうか。自分のデスクトップPCはRTX 4070 Ti(VRAM 12GB)なのですが、bf16の12BはそもそもVRAMに載りません😅 そこで気になっていたのが、Google DeepMindが公開しているGemma 4 12Bの軽量版「QAT(Quantization-Aware Training：量子化適応トレーニング)」です。今回は、この軽量版がどういうも…

#ローカル LLM#Gemma4#ollama
フェルマータ•1ヶ月前

ローカルLLM 30Bで動かせる、記憶を持ったおうち用エージェントの試作

ポエム 昨今 AI が進化してきており一家に一台、というか一人に１インスタンスくらいは利用しているのが当たり前になってきている。このとき我が家では Google Home があって、 Google Home 上で例えば「今日はナスが安くて１パック買ってきてさ、でも冷蔵庫の中身よくわかってなくて適当に買ったから、いい感じのレシピを教えてよ」と言ったら過去の記憶を参照して、「ピーマンとひき肉があるから麻婆茄子もいいかもしれんが、上の子はなす嫌いなんだから大人用に煮付けにしておかずと晩酌にでもしたら」みたいな提案をしてくれる子が欲しいわけです。そうなると普通の AI エージェントだと不足してしまうの…

#AI#生成 AI#ローカル LLM#Embodied Agent
ぐわぐわ団•2ヶ月前

ようやくゑるねが落ちついてきた

Mac miniで画像生成してゑるねを描くなんてことをしているののですが、ようやくちょっと自分の納得できるゑるねが生成できるようになってきました。 こんな精神的に病み病みな画像を生成してきた頃から比べると、少しは成長できたのかなと思うのです。 ChatGPTのきまぐれから生まれたゑるねが大人になったような気持ちで感無量です。上のゑるねもMac miniを使って生成したゑるねです。 とはいえ、これが本当にフルスペMac miniの能力をほぼ全振りで画像生成に使った結果です。メモリの使用状況見てビビりました。64GBのメモリをほぼフルスロットルで使っているのです。Qwen 3.6 35b a3b …

#画像生成#ローカル LLM
まつぼっくりの日記•3ヶ月前

デスクトップPCのローカルLLMをスマホでする（LM Studio×Tailscale×Chatbox）他TTSなど | まつぼっくりの日記

やり方の説明メンドウなんでやりたい人は自分でAIに聞いてやってくれ(笑) 俺でもできるくらいだから難しくないです Chatboxは同じ名前のアプリがあるから注意 ChatboxはモデルプロバイダーにLM Studioあるからそれ選ぶだけ。楽 あとLM Studioのローカルサーバーはサーバーセッティングで「ローカルネットワークで提供」の所ON ローカルLLMができるって言っても、机に座っていないといけないのだるかったから助かるー。出先でしようなんて考えは一切なく（できるけど）、単に同じ部屋のベッドでスマホでしたかっただけ(笑)Chatboxの仕様か限界か知らないけど、自作世界のPDFを投げてや…

#日記#ローカル LLM#tailscale#Chatbox#LM Studio#Gatebox