Hatena Blog Tags
はてなブログ トップ
Gemma 3
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Gemma 3

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
AKARI Tech Blog•16日前

ローカルLLMをiPhoneで動かそう

今週もTech Blogの時間がやってまいりました。本日は DX Solution 事業本部 Dev の許が担当いたします。さて今年はローカルLLMの性能が話題になることが多いですね。 DeepSeek R1 によるDeepSeekショックに始まり、Gemma 3、QwQ、Phi-4、Llama 4など……。 しかもあのOpenAIが、GPT-2以来6年ぶりにオープンウェイトなモデルを公開するとのこと。TL;DR: we are excited to release a powerful new open-weight language model with reasoning in the …

#ローカル LLM#SLM#Gemma 3

関連ブログ

MNTSQ Techブログ•1ヶ月前

財布を気にしたくないのでローカルLLM(Gemma3)にコードを書かせてみた

SREチームマネージャーの藤原です。 LM Studio + Gemma 3 + Cline + VSCodeの環境を自由研究的に試用したので、その報告エントリです。 モチベーション プライベートでコードを書く際も最近はClineなどを使ってLLMを使ってコーディングをすることが徐々に増えてきました。 VSCodeとClineを組み合わせて外部サービスをつかってコードの変更作業を実施する場合、 何かコードの変更を依頼するたびに、財布の中身から少しずつお金が溢（こぼ）れていく感覚があるでしょう。 1回1回の額は少額とはいえ、多数回繰り返すとなかなかの金額になってきます。 会社では予算の範囲内であ…

#Gemma 3#Cline#VSCode#ローカル LLM
Intel GPUで言語モデルを動かしたり画像や動画を作ったり•1ヶ月前

【Arc A770】Vulkanバックエンドの llama.cpp で Gemma-3-27b-it (Q4_K_M.gguf)を使う

注意Gemma-3は最小モデルを除いて画像に対応しています。しかし、今回は画像を扱っていません。PC環境 プロセッサ Intel(R) Core(TM) i7-11700 実装 RAM 64.0 GB GPU Intel Arc A770 (VRAM 16GB)Ubuntu 24.04事前準備 sudo apt install build-essential cmake gitVulkanのインストールこちらの通りにしました。(v1.4.309.0) wget -qO- https://packages.lunarg.com/lunarg-signing-key-pub.asc | sudo …

#Gemma 3
シンギュラリティ実験ノート•1ヶ月前

gemma3 導入に必要となるソフトウエア更新の手順（Ubuntu編）

軽量で高性能なLLMであるgemma3を導入した。導入にあたってはソフトウエアのバージョンアップが必要だった。今後も必要になることがあると思うのでバージョンアップ手順をメモしておきたい。 なお、ソフトウエアとは、Ollama+Open WebUI、LM-Studio、llama.cppを指し、手順はUbuntu環境での手順である。 Ollala+Open WebUI Ollama+Open WebUIは以前の記事で紹介した通りDocker環境で動いている。このため更新作業にはDockerの知識が必要だが、私はDockerが苦手なのでネットで見つけた下記の記事を信じてそのまま行った。 Open …

#Gemma 3
パソコン関連もろもろ•1ヶ月前

ローカルで動くOCRアプリがあれば便利なので最近話題の「Mistral-Small-3.1-24B-Instruct-2503」や「gemma-3-27b-it」で作ってみました。ついでに「EasyOCR」でも作って性能比較もしてみました。

注意「Mistral-Small-3.1-24B-Instruct-2503」と「gemma-3-27b-it」は自身のPC環境の制限のため4bit量子化して使用しています。本来はもう少し性能が高いと思いますので今回の結果は参考程度に見て下さい。パラメーターの設定も詰め切れてないと思います。お題① Mistral-Small-3.1-24B-Instruct-2503 この画像から抽出されたテキストは以下の通りです： --- **警察が捜査しました。** 当院は、安心・信頼の医療の提供を指針としております。 暴力・脅迫・迷惑行為はお断りします!! これからは厳正に対処します。 --- このテキ…

#Gemma 3#Mistral Small#EasyOCR
パソコン関連もろもろ•1ヶ月前

「vLLM」と「Gradio」を使って Gemma-3-27B-it を実行する

マルチモーダルモデルということで画像を扱ってみました。使用したPCVRAM 24GBのRTX 4090を使用しました。さらにbitsandbytesで量子化も行っています。 プロセッサ Intel(R) Core(TM) i7-14700K 実装 RAM 96.0 GB GPU RTX 4090 (VRAM 24GB) vLLMを実行ここはWSL上のUbuntu 24.04を使っています。 vllm serve google/gemma-3-27b-it --quantization bitsandbytes --load-format bitsandbytes --max-model-len…

#Gemma 3