LLM (大規模言語モデル)

こんにちは。SB Intuitions MLプラットフォームチームの 鶴田 ・伊勢です。 MLプラットフォームチームでは、国産生成AI「Sarashina」の開発を加速するための MLOps/LLMOps 等、各種プラットフォームエンジニアリング活動を行っています。 今回は、その中の一つである、「モデルカタログ」の施策について紹介します。 社内では日々多くの LLM モデルが開発されており、そのメタデータは GitHub 上の YAML モデルカードとして数百モデル、丁寧に記録・蓄積されてきました。この蓄積をさらに活用しやすくするために、モデルカタログを立ち上げ、数百のモデルを条件で検索できる…

こんにちは、美空です！ 第4回ではClineを導入して、 VS Code ↓ Cline ↓ Ollama ↓ Local LLM という環境を作りました。 これでClineは、必要なファイルを探したり、コードを読んだり、ファイルを編集したり、Terminalを使ったりできるようになりました。 だったら今回は、 このUnityプロジェクト、全部レビューして！ ってお願いしてみたくなりますよね。 私もやりたい。 でも。 いきなり「全部調べて、全部直して」は禁止！ 今回はそこから始めます。

こんにちは、美空です！ 前回までで、 VS Code ↓ Ollama ↓ Local LLM という環境ができました。 選択したコードについて質問したり、ファイルをContextとして渡したり。 これだけでもかなり便利です。 でも使っていると、だんだん欲が出てきます。 例えば、 この処理、どのファイルに実装されてる？ とか、 関係しているClassを全部調べて。 とか、 問題を見つけたら直して。 とか。 ここまで来ると、人間が毎回、 「次はこのファイルを見て」 「次はこっち」 と指示するより、 必要なファイルくらい自分で探してほしい！ となってきます。 そこで登場するのがClineです。

こんにちは、美空です！ 前回はOllamaをインストールして、 ollama run qwen3.5:9b のように、自分のPC上でLLMを動かしてみました。 ローカルで普通に会話できるだけでも、 「おお、本当に自分のPCで動いてる！」 って感じで結構楽しかったんですが……。 プログラムを書きながら使っていると、だんだん気になってくることがあります。 例えばUnityのコードについて聞きたいとします。 void Update() { GameObject player = GameObject.Find("Player"); if (player != null) { transform.po…

こんにちは、美空です！ 最近はちょっとだけ「ローカルLLM」について勉強していました。 LLMっていうと、ChatGPTみたいにネット越しで使うAIを思い浮かべる人が多いと思うんだけど、最近はそれを自分のPCの中で動かす「ローカルLLM」っていうものもあるんです。

こんにちは、美空です！ 最近、プログラムを書いているとLLMを使わない日の方が珍しくなってきました。 分からないAPIについて聞いたり、コードレビューしてもらったり、 「このエラー、どこが怪しい？」 なんて聞いてみたり。 すっかり日常的な開発ツールになっています。 でも、ふと思ったんですよ。 「私、LLMってちゃんと説明できる？」 ……。 うーん。 「なんかものすっごく大量の文章を学習したAI！」 間違ってはいない気もするけど、さすがに雑すぎる。 ということで、今年のお盆休みはちょっと趣向を変えて、 LLMを基礎から理解して、自分のPCで動かして、最後はUnity開発に使ってみよう！ という連…

こんにちは、美空です！ お盆休みですねー！ 旅行へ行ったり、ゲームをしたり、積んでいた漫画を読んだり。 こういう少しまとまった休みになると、 「普段なかなかできないことをやってみよう！」 って思いません？ 私も何かやりたいなーと思っていたんです。 で。 気がついたら、 ローカルLLMをいじってました。 ……なんでこうなった。 しかも最初は、こんな大掛かりなことをするつもりじゃなかったんですよ。 本当に最初は、 「ところでLLMって、結局なんなの？」 くらいだったんです。