Hatena Blog Tags
はてなブログ トップ
Local LLM
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Local LLM

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
エキサイト TechBlog.•2ヶ月前

Local LLMをサクッと動作させてみる

こんにちは。 taanatsuです。 今回はLocal LLMを使ってみたくなったので、手元のMacでサクッと動かしてみます。 Local LLMとは？ ChatGPTやClaudeなどの生成系AIを手元のLocal環境で動かせるようにしたものです。 マシンスペックに左右はされますが、課金が不要なのは魅力的ですね。 Local LLMとは？ 環境 サンプル 実行環境準備 ライブラリの追加 サンプルコード Modelのダウンロード 実行 おわりに 環境 MacBook Pro Apple M1 Max Python 3.12.5 サンプル 実行環境準備 $ python3 -m venv ven…

#Python#LLM#Local LLM#機械学習#AI

関連ブログ

TECH Street (テックストリート)•16日前

【イベントレポート】LLMアプリ開発エンジニア勉強会 ～各社の取り組みや課題から学ぶ会～

こんにちは！TECH Street編集部です！ 2024年9月25日（水）に開催した、 「LLMアプリ開発エンジニア勉強会」のイベントレポートをお届けします。今回は3社のアプリケーション開発に携わるエンジニアが集まり、それぞれの知見を発表し、学びあう勉強会を開催します。 登壇者はこちらの方々！ Seiya Umemoto／パーソルキャリア株式会社 リードエンジニアSaito Taishi／個人事業主 エンジニア有馬三郎／セゾンテクノロジー 執行役員 CTO 早速、内容を紹介いたします！ 月間4000人以上の社内利用を達成したRAG搭載LLMチャットアプリの機能改善の取り組み 目次 はじめに 社…

ujimushi(@旧sradjp(15364))の日記•18日前

Local llmをEmacs上で使える環境を試してみる

きっかけ この数ヵ月ぐらいにLocal llmが手軽に使えるようになっていることをネットの情報で(今更)知りました。 で色々調べていくと Emacs上でLocal llmが使える!! 手軽にLocal llmを構築できるツールがあるらしい ということで，古いけれどもそこそこ高スペックの家で使っているPC。内訳というと マザーボード: X570 AORUS ELITE CPU: Ryzen 7 3700X(65W) メモリ: 容量32GB(16GB x2) → 64GB(32GB x2)に換算済み グラフィックカード: GTX 1650(4GB，75W) 電源: 容量650W と，かなり電源容量…

虎の穴ラボ技術ブログ•21日前

【JavaScript】Deno についてのLT会 toranoana.deno #19 を開催しました【TypeScript】

皆さんこんにちは、虎の穴ラボの奥谷です。 2024年12月04日 (水) に Deno についてのLT会 『toranoana.deno #19』を開催しました。 yumenosora.connpass.com

yuriacats-log•1ヶ月前

2024/11/25

0800 起床 朝ご飯はそばを食べた。そばは美味しいが、朝はご飯を炊いておくべきだった。そばと一緒に湯豆腐を作った。やはり湯豆腐は美味しい。 鎌田の出汁醤油とレモン汁で食べるのが1番好きだ。 https://amzn.to/498b0mY 仕事まで時間がなかったのでサクッと支度。まだ喉の違和感が治りきっていないのでゆったりめの服を意識している。 昼ごはんは、お粥に鮭フレークと味の素、塩をかけたもの。あと梅干し。塩分がしっかりとあって良い。 夜ご飯はセブンイレブンでロースカツ丼。これはあまり良くない。金銭面でもカロリー面でも良くない。 それと間食的にフルーツをつまんでいた。 Lineを見たらLi…

SMARTCAMP Engineer Blog•1年前

Mojo🔥でllama2を実行してPythonと速度比較するモジョよ

挨拶 初めに 対象読者 実行環境 Mojoとは 現状のMojoの導入方法 MojoとPythonの実行時間の比較 Pythonのコード Mojoのコード 結果 Local LLMの実行 llama2.py llama2.c llama.mojoの実行時間の比較 llama2.py(Python) 実行コマンド 生成された文章 llama2.c(C) 実行コマンド 生成された文章 llama2.mojo(Mojo) 実行コマンド 生成された文章 結果 結論 挨拶 京都開発拠点でインターンをしてるぱんちです(a.k.a 田中 大貴) 拙い文章ですが初めて記事を書かせてもらいました！ 業務でAIの調…