はじめに 今回の構成 計算ノードを毎回リセットする エージェントに何を任せるか 実際のメタプロンプトと state.md 巨大なプロンプトを分割する 8Bモデルではコンテキストが足りなかった 27Bモデルで4ノード構築を完走 どれくらいの速度が出ているか 「構築できた」と「安定して使える」は違う 共有ストレージの実体を確認する 今回のまとめ 執筆者:佐藤友昭 ※ 「vLLMとRDMAで構築するローカルLLMクラスタ」連載記事一覧はこちら Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。前回…