Hatena Blog Tags
はてなブログ トップ
Llama3
このタグでブログを書く
言葉の解説
ネットで話題
関連ブログ

Llama3

このタグの解説についてこの解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。
シンギュラリティ実験ノート•10ヶ月前

AIにしりとり遊びを教えてみた

AIと言葉だけで遊ぶゲームができたら面白いと思う。前回、AI（Llama3.1-8B）と「しりとり遊び」をしてみたが、うまく続かなかった。「まんが」というと、AIの中では「MANGA」となり最後の１文字を「A」と認識するようだった。 しかしAIは人と会話した流れを踏まえて次の回答ができる。このことは先日の記事でAIと会話するPythonスクリプトをコーディングして初めて理解したのだが、人（user）とAI（assistant）の会話した履歴を逐次入力データにつなげていき、それをAIに渡すことで実現しているようだ。 そうであれば遊びながら遊びのルールを教えればAIは理解してくれるはずだ。 実験環…

#Llama3

関連ブログ

シンギュラリティ実験ノート•1年前

最新のLLMが高校数学レベルの問題を解けるか試してみた

中国のAI研究チーム（アリババグループらしい）が数学特化のLLMを公開した。モデルサイズは最大で720億パラメタなので、我が1000ドルPCでもギリギリ動くだろう。早速試してみることにした。 試す問題は高校レベルの数学「因数分解」である。今のレベルのLLMなら大学入試問題や大学数学レベルでも正解しそうな気がするが、正解かどうかを私自身が判断できないというのが高校数学レベルで試すことにした理由である（笑）。 Qwen2-Mathの720億パラメタモデルの数学性能評価値は84.0で、Claude 3.5 SonnetやGPT-4oを上回るらしい。 私がPCでLLMを動かし初めて約半年になる。当初は…

#生成AI#Qwen#Llama3
シンギュラリティ実験ノート•1年前

Llama3.1の70Bと405Bを動かしてみた

Llama3.1の70B（700億パラメタ）を1000ドルPCで、405B（4050億パラメタ）をクラウド上のデモ環境で動かしてみた。これまでにもLlama3-8BやLlama3-70Bを動かしてきたので、Llama3.1になってどれくらい賢くなったのかを検証してみた。 Llama3.1-70B（700億パラメタLLM） 1000ドルPCのLM-Studio上でLlama3.1-70Bを動かしてみた。4ビット量子化版モデルを使用しているのでサイズは42.5GBになる。64GBメモリのPCで動く上限と思われる。GPUで動かすことはメモリサイズ的に無理なので諦め、CPUのみで実行した。 小学校レベ…

#Llama3
ハジメのネガティブ雑記•1年前

南極観測船しらせ

・南極観測船しらせ は何を調査しているのか 1. **海洋生物学**: しらせは、魚、オキアミ、ペンギン、アザラシなどの海洋生物を調査し、その個体数、生息地、生態学的役割について理解を深めます。2. **海洋学**: この船は、海流、温度、塩分、栄養分レベルを測定し、南極周極海流 (ACC) とその地球の気候パターンへの影響を研究します。3. **氷河学**: しらせは、南極の氷河、棚氷、海氷を調査し、その動態、質量バランス、気候変動への反応を理解します。4. **地質学**: この調査船は、山、火山、プレートテクトニクスの形成など、南極の地質を研究します。5. **気候変動**: しらせは、…

#南極観測船しらせ
シンギュラリティ実験ノート•1年前

LM StudioでLlama3-8B日本語強化版を試してみた

mmngaさんのHugginfaceのページにLlama3-8Bの日本語強化学習モデル lightblue-suzume-llama-3-8B-japanese-gguf があったので試してみた。8Bは70Bに比べると能力的に劣るであろうことは分かっているが、日本語の能力とUM790 Proで動かした時の応答速度を確認したかったので試してみた。 LM Studioへのモデル追加手順 ダウンロードしたモデル lightblue-suzume-llama-3-8B-japanese-Q4_K_M.gguf を以下のようにLM Studioの環境の中にセットした。フォルダ名の Suzume-Llam…

#Llama3
シンギュラリティ実験ノート•1年前

LM StudioでLlama3（8B）を動かしてみた

1000ドルPCでLlama3を動かしてみた。LM Studioのv0.2.20からLlama3がサポートされている。この最新バージョンにしたところ、内蔵GPUの780MでLLMを動かすことができることも分かったのでその点についても簡単にまとめておきたい。 LM Studio for Windows のGPUサポート Windows版ではAVX2対応のCPUをサポート対象としている。LM StudioのダウンロードページにはAMD ROCm対応版もプレビュー版として公開されている。AMD ROCm対応版はLinux版かと思いきや、Windows版で提供されている。 LM Studio ダウンロ…

#Llama3#LM Studio