Hatena Blog Tags
はてなブログ トップ
ollama
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

ollama

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
Aikの技術日記•17日前

OllamaでローカルLLM環境構築&出来ることまとめ

はじめに ローカルLLM環境構築ツールについて Ollama環境構築 モデルのインストール API経由でチャットを使おう Ollamaで使えるコマンド等一覧 Ollamaセッション上にて実行可能なコマンド一覧 APIとして使えるエンドポイント一覧 おわりに 余談:筆者のPCスペックについて はじめに お久しぶりです、筆者です。 主にコーディングや自作イラストのレビュー関連で生成AIを使うようになって久しいですが、 使うたびに毎回気になるのが「課金料金」。 重たいプロンプトや画像を投げるのはどうしても躊躇しがちですし、 レスポンスのプロンプト量がうっかり多くなっちゃったら…と思うと複雑な内容は投…

#ollama#ローカル LLM

関連ブログ

雨立（Ametatsu） - Tech Blog•21日前

Qwen 3、出たってよ！ローカルで試してみた？

2025年4月29日、Qwen 3がリリースされました！（Qwen 3公式ブログ） 最近は大規模言語モデルが続々と登場していますが、Qwen 3もその一角を担う存在として注目せざるを得ません。というわけで、さっそく触ってみました！ 今回の実験環境 モデル：Qwen3:4b（Ollama経由） クライアント：Chatbox（https://chatboxai.app/ja） 大規模モデルでありがちな「実際にどのくらいできるのか？」問題を確かめるべく、いくつかの簡単なテストをしてみました。 テストしてみたこと 1. 比較問題（小数編） 9.11と9.9はどちらが大きいですか？ 返ってきた答え： 9…

#LLM#Qwen#Qwen3#ollama
Solr, Python, MacBook Air in Shinagawa Seaside•2ヶ月前

Windws11 に サラから開発環境作ったので メモ

# 1. WSL のインストール wsl --install -d Ubuntu-24.04 wsl --set-default Ubuntu-24.04 wsl # ssh sudo apt install ssh -y sudo vi /etc/ssh/sshd_config PasswordAuthentication yes # 2. Docker のインストール # Dockerの公式リポジトリを追加 # GPG鍵を追加 curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /u…

#WSL#Docker#CUDA
Software Engineering Blog•2ヶ月前

ローカルLLMを活用した推論モデルの立ち上げ方法(Ollama)

OllamaでLocal LLMを試してみます。 使用環境はMacBook Air M4 24GB memoryです。 Ollamaのインストールと起動 brew install ollamaでOllamaをインストールします。 > brew install ollama ==> Downloading https://formulae.brew.sh/api/formula.jws.json ==> Downloading https://formulae.brew.sh/api/cask.jws.json Warning: Treating ollama as a formula. For…

#LLM#ollama
uepon日々の備忘録•2ヶ月前

初心者でも簡単！Ollamaモデルをファインチューニングして自分だけのAIを作る方法

1. はじめに 「自分だけのAIアシスタントがあったら便利だろうな～🤔」と思ったことはありませんか？そんな好奇心から、今更ながらOllamaで動かしている大規模言語モデル（LLM）のファインチューニングに挑戦してみました。プログラミング初心者向けの回答をより的確にしたい、あるいは特定のキャラクターのように応答してくれるモデルを作りたい——そんな願いを実現できるかもしれないと思ったのです。 この記事では、実際にGTX 1070（VRAM 8GB）というかなり古めのGPUを搭載したノートPCで試したファインチューニングの過程を、成功も失敗も含めた体験記としてまとめてみました。技術的な詳細はもちろん…

#ファインチューニング#LLM#Python
パソコン関連もろもろ•3ヶ月前

【WSL2】【Ollama】2つのモデルを同時にサーバーとして立ち上げる

はじめにプログラミングの際にAIにアシストして欲しくてContinueというのを使いたいと思っています。 github.com Gemini Code AssistやGitHub Copilotが制限はあるもののほぼ無償で使えるこの時代にローカルにこだわる必要があるのかどうかは疑問です。 ローカルで行うメリットは「ネットワークを必要としない」「自分のプログラムがクラウド上にさらされない」などでしょうか。 後者は趣味でプログラミングを楽しんでいる自分には関係ないことですが。目的ContinueではチャットのためのInstructモデルとコード補完のためのBaseモデルを別々に用意する必要がありま…

#ollama
地平線まで行ってくる。•3ヶ月前

OpenHandsをOllamaをwsl2を使って完全ローカルで動かしてみる。

OpenHands（旧OpenDevin）をwsl2上で動作をします。LLMはollamaを利用します。 github.com OpenHands用のdocker composeを準備 docker コマンドでもいいのですが、メモ代わりにcompose.yamlを作成して起動します。 docker-compose.yaml version: "3.9" services: openhands-app: image: docker.all-hands.dev/all-hands-ai/openhands:0.25 container_name: openhands-app environment…

#OpenHands#LLM
みつきんのメモ•3ヶ月前

Yocto ProjectでOllamaを試す

はじめに Yocto Projectの環境でOllamaを試したい気分になった。 一からビルドするのは大変そうなので、マニュアルインストールの手順を試す。 環境構築 環境を構築する。 作業環境 $ mkdir -p ~/yocto/scarthgap $ cd ~/yocto/scarthgap pokyの取得 $ git clone git://git.yoctoproject.org/poky.git -b scarthgap 環境変数の設定 $ source poky/oe-init-build-env 作業レイヤの作成 一緒にレシピを配置するディレクトリも作成する。 $ bitbake…

#YoctoProject#AI
AIエクスプローラー•3ヶ月前

Open Web UIを活用するためのSearXNGインストール手順

前提条件と対象者 ollamaをopen webuiで活用中の人 Web検索機能を使ってみたいが未導入の人 SearXNGドキュメントを読むのが面倒な人 Docker Desktopインストール済みの人 PowerShellを使ったことがある人 OneDriveにインストールしない人 注意 環境違い等による失敗に寛容な気持ちでお願いします。 手順 1. インストールフォルダの作成 PowerShellを管理者モードで起動 （スタート検索窓に「Power」を入れ、候補が表示されたら右クリックして「管理者として実行します」を選択） SearXNGをインストールしたいフォルダを作成し移動する 次のコ…

#生成 AI#Open WebUI#ollama#DockerDesktop