Hatena Blog Tags
はてなブログ トップ
ローカルLLM
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

ローカルLLM

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
誰かの技術置き場•2日前

MetaのローカルLLM「Muse Glimmer」をお試し

お疲れ様です。 MetaがMuse Glimmerという新しいローカルLLMをリリースしたので、手元の環境で動作させてみました。 リリース モデルについて 動作チェック 通常の返答生成 画像入力 所感 リリース research.meta.ai モデルについて モデルはOllamaやHuggingFaceから利用できます。 今回はOllamaから利用できる量子化済みモデルを使用しました。 量子化済みモデルでもサイズが18GBほどあります。 Ollama ollama.com HuggingFace huggingface.co 動作チェック 通常の返答生成 動作確認には過去に作成したチャットボ…

#MuseGlimmer#生成AI#ローカルLLM

ネットで話題

もっと見る
1060ブックマーク最近ローカルLLMがアツいらしい最近、ローカルLLMがアツくなっているという話をtwitterでチラホラ見かける。 ローカルLLMって何じゃ？というと、オープンに公開されているモデルのウエイトをDLしてきて手元のPC上で推論させる事である。 オープンなAIモデルとは逆の存在として、モデルがDLできないクローズなAIモデルもある。 OpenAIやAnthropicのよう...soysoftware.sakura.ne.jp
556ブックマークローカルLLMのPoCに300万円使う前に読んでほしい話｜dx_notenote.com
482ブックマーク無料で使えるAI｢ローカルLLM｣の進化がすごいよって話www.gizmodo.jp
465ブックマークMacBookで無料AI。｢ローカルLLM｣がいい感じに進化してますwww.gizmodo.jp
463ブックマークみんなこれでいいAI。Googleの最新ローカルLLM｢Gemma 4｣は日本語うますぎ、でも無料www.gizmodo.jp
457ブックマークローカルLLMは次世代エロゲの夢を見るか｜黒神note.com
419ブックマーク16GB のノートPC でも、Claude Code + ローカル LLM は本気で使える — CodeRouter で Tool Call が安定するまで(2026年7月版)｜zephel01note.com
397ブックマークMacBookで動くし、ぶっ壊れ性能。いま最強のローカルLLM｢Qwen3.5｣を解説しちゃうwww.gizmodo.jp
395ブックマークGoogleが「Gemma 4 12B」をリリース。ノートPCで動いて26B級の性能、またお化けローカルLLM | ギズモード・ジャパンwww.gizmodo.jp

関連ブログ

AIまとめ便•2日前

📰 今日のAIニュースまとめ（8月12日）｜OpenAI幹部退社・Ryanair業務AI化・MetaローカルAI

AI企業では人材の流動化が続く一方、実際の企業業務やローカル環境でAIエージェントを動かす取り組みが広がっています。本日は、OpenAI上級幹部の退社、RyanairによるGoogle AIの全社導入、MetaのローカルAIモデル「Muse Glimmer」を取り上げます。 🏢 OpenAI上級幹部ブラッド・ライトキャップ氏、新ベンチャー設立へ退社 OpenAIの上級幹部ブラッド・ライトキャップ氏が、新たなベンチャーを立ち上げるため退社すると明らかにしました。同氏は4月にCOOから特別プロジェクト統括へ移っており、ここ数カ月は日常的な管理業務から離れていたため、OpenAIは各チームへの影響は…

#AI#ChatGPT#生成AI#テクノロジー#ニュース#DeepMind#AIエージェント#ローカルLLM
星屑芽野の妥協した実験の残骸置き場•7日前

【完全解説】M1 Max（64GB）でローカルLLMはどこまで動く？クラウドAI（Gemini 3.1 Pro等）との性能比較と限界に迫る

最近、オープンソースのLLM（大規模言語モデル）の進化が目覚ましく、「手元のMacでAIを動かしたい」という人が急速に増えています。 クラウドAIのように月額サブスクの費用を気にすることなく、完全オフラインかつプライバシーが保たれた環境で無制限に生成AIを使い倒せる——。これはガジェット好きやエンジニアにとって、かなりワクワクする世界ですよね。 今回は、数年前のモデルでありながら「ユニファイドメモリ」と「400 GB/sという広大なメモリ帯域」を備え、今なおローカルLLMマシンとして高い人気を誇る M1 Max搭載MacBook Pro（64GB RAM） をピックアップします。 64GB M…

#ローカルLLM
システム屋さんの机上最前線•11日前

中古M1 Pro MacBook Pro 32GBを開封｜Qualit Bランク品の状態

ローカルLLMを動かすためのMacを探していた。 最初に考えていたのは、中古のM1 Mac mini 16GBだった。価格を抑えながらAppleシリコンMacを試すなら、このあたりが現実的だと思っていた。 ところが、メモリは購入後に増設できない。 16GBで不足を感じても、あとから32GBへ増やすことはできない。そう考え始めると、M2 Pro Mac mini、M4 Mac mini、M4 MacBook Air 24GBと候補が少しずつ変わっていった。 最終的に購入したのは、Qualitで販売されていた中古の14インチMacBook Proだった。 M1 Pro、メモリ32GB、SSD 51…

#MacBook Pro#M1 Pro#ローカルLLM
システム屋さんの机上最前線•14日前

作るほど直したくなる｜楽天データサイトを作り始めた話【50歳SEの個人開発日誌 #1】

ここ最近、ブログを書きながら、裏では別のサイトを作っていた。 きっかけは、それほど大げさなものではない。 楽天APIから商品情報を取得できる。 LLMを使えば、その情報をもとに文章も作れる。 それなら、商品紹介記事を自動で作る仕組みを作れるのではないか。 最初は、その程度の思いつきだった。 私は仕事でシステム開発をしているが、普段使っているのはJavaやSQLが中心だ。今回はPython、WordPress、楽天API、LLMなどを組み合わせることになる。 仕事とは少し違う技術を使って、実際に動くものを作ってみたい気持ちもあった。 軽い気持ちで始めたはずなのだが、気がつけば商品ページだけでは収…

#ローカルLLM#個人開発
たびとの旅路 ～電脳砂漠の冒険譚～•15日前

解する者と、解せぬ者 ～Cline と Kilo Code で験す、ローカルAIエージェントの境界～

もう一人の相棒、Continueをこの手に迎えてから、幾晩が過ぎただろうか。魂の鎧（エディタ）の中に賢者を宿すことには成功した。だが、私の内なる探求心は、その先へと向かっていた。ただ対話するだけでなく、自ら呪文（コード）を紡ぎ、詠唱（コマンド実行）までもこなす、真の「自律する相棒」を見たい――そう願っていたのだ。 普段の業務では、多機能な神器Kilo Codeを利用している。ならば、ローカルの賢者にも同じ神器を振るわせればいい。そう軽く考えていた私を、電脳砂漠は容赦なく打ちのめした。

#Cline#Kilo Code#ローカルLLM#VS Code拡張機能
たびとの旅路 ～電脳砂漠の冒険譚～•18日前

もう一人の相棒を迎える ～VS Code拡張機能「Continue」とOllamaで紡ぐローカルAI錬成術～

ゴーレムの心臓部にGPUの魔力を宿し、日本語の賢者Swallow-13Bを目覚めさせてから、幾晩が過ぎただろうか。だが、賢者を召喚する呪文を、いちいち別の水晶玉（ブラウザ）で唱えるのは、いささか億劫だ。私が日々向き合う魂の鎧（エディタ）の中に、もう一人の相棒を招き入れることはできないか。 そう考えていた矢先、Continueという神器の噂を耳にした。VS Codeに宿り、GitHub Copilotのように振る舞いながら、クラウドではなく自らのゴーレムの中で完結する賢者を呼び出せるという。しかも、Ollamaという召喚陣を使えば、その導入は驚くほど簡単だそうだ。 VS Code拡張機能「Con…

#VS Code拡張機能#ローカルLLM#WSL2
システム屋さんの机上最前線•21日前

Mac miniは16GBと24GBどっち？ローカルLLM用途で24GBが欲しい理由

次に買うMacのメモリを、16GBにするか24GBにするかで迷っている。 Web閲覧や文書作成、普段の開発作業をするだけなら、16GBでも不足しない可能性は高いと思う。 ただ、次のMacで試したいのはローカルLLMだ。 現在使っている古いMac miniでOllamaとQwenを動かしてみたことで、モデルが「動くかどうか」だけではなく、何度も試せる速度とメモリの余裕が欲しくなった。 次はQwen 9B前後のモデルも試してみたい。さらに、ローカルLLMだけを動かす専用機ではなく、ブラウザー、Python、エディター、OpenClawなども同時に使うつもりだ。 そう考えると、16GBより24GBへ…

#Mac mini#ローカルLLM#メモリ
ハンドルネームの敬称は省略できます•23日前

ローカル LLM を Cloudflare Workers と AI Gateway を使って安全に公開する

こんにちは。id:rokuokun です。 この記事はCloudflare Workers Tech Talks in Kyoto #2 - connpassで発表した内容を記事として書き出した内容になっています。 スライドが見たい方はこちらからどうぞ。 最近手に入れた DGX Spark を使って vLLM や Ollama を動かしているのですが、これらを外部に公開したいという気持ちが芽生えてきました。 普通にやるなら VPN 経由ですが、これだとやや面倒です。やはりパブリックなエンドポイントからアクセスしたいモチベーションはあります。 LiteLLM などのプロキシを設置することを考えた…

#Cloudflare#Cloudflare Workers#ローカルLLM
誰かの技術置き場•1ヶ月前

【Next.js/FastAPI】ローカルLLMも動かせる自作チャットアプリのベースを作った話

お疲れ様です。 最近ひそかに作っていたチャットボットについて紹介します。 このような感じで動作しています。画像ではGemma4:12Bに回答させています。 今はRAG等の実装ができておらず、そのままLLMに返答をさせているだけなので、回答がめちゃくちゃですが…。 ソースコードは以下のリポジトリに置いてあります。 チャットとして最低限必要になる機能部分を実装した時点のバージョンでタグ付けしています。 何かしらチャットのベースとして使用することはできるかと思います。 自分自身もこのバージョンからいろいろとカスタマイズしていこうと考えています。 今後新たに登場してくるであろうローカルLLMの検証環境…

#ローカルLLM#Python#TypeScript