AI学び直し

このタグの解説について

この解説文は、すでに終了したサービス「はてなキーワード」内で有志のユーザーが作成・編集した内容に基づいています。その正確性や網羅性をはてなが保証するものではありません。問題のある記述を発見した場合には、お問い合わせフォームよりご連絡ください。

uepon日々の備忘録•1年前

なぜ4GBで20Bモデルが動く？知らないと損するその仕組みを初心者向けに解説してみた

先日、「きしだのHatenaブログ」さんの「GPUメモリ4GBしかなくても、GPT-oss 20B（MoEモデル）をある程度の速度で動かせる」という内容の記事を読んでいました。初心者の私はGPUメモリが4GBでなんでGPT-oss 20Bが動くの？とさっぱりわからなかったし、Attention？FFN？MoE？と、聞き慣れない用語が並んで頭の中は「⁉️」でパニックでした🤔 わからなくてもしゃーないけど、せっかく時間があるんだしということで自分なりに調べてみました。自分の中で整理した内容をまとめておきます。誰かの参考になれば嬉しいです。内容の理解が間違っていたら優しく指摘してください🙇

#AI学び直し#ローカル LLM#GPU節約術#MoE#ollama

関連ブログ

uepon日々の備忘録•1年前

学び直しで発見！50代パワポエンジニアがまとめたAI活用3手法の使い分け術

私は俗に言うパワポエンジニアだと思います。システム開発の近隣にいましたが実際のコードは趣味でしかやっていません。50代となり、ようやくAI開発の世界に足を踏み入れて、学び直しをしています。これまでもAI活用について調べていましたが、最近ではClaude CodeやGemini CLIなどの登場によってChat形式 vs CLI形式という関係で語られることが多くなってきています。私も双方使用していますが、現状はChat形式での利用が多いです。実際に各ツールを使い込んでみてようやく使い分けが見えてきた感じです。 uepon.hatenadiary.com uepon.hatenadiary.co…

#AI学び直し#LLM#CLI#API