IT naviさんが公開していたGPTsのプロンプトが面白かったのでローカルで動かすテスト。 note.com 環境 ローカル環境 Windows11, Ollama 0.1.33 i7-12700K DDR4 128GB GeForce RTX4090 + RTX A6000 Modelfile OllamaはModelfileという形式であらかじめベースモデル、設定、システムプロンプト等をひとまとめにして扱うことができます。早い話がGPTsみたいなものです。 ベースモデルはcommand-r-plus-Q4_K_Sです。全65レイヤーを全てGPUに乗せるには約64GBのVRAMが必要です。…