falcon3を試してみます。ollama公式の7Bだと日本語は辛そうだったので、10b-instruct-q8_0で試してみます。ColabのL4環境で実行。 VRAMの占有率は11919MiB / 23034MiBでした。 日本語の性能は高くありませんでした。計算性能は高そうでしたので、日本語の学習量の問題でしょう。日本語を使うとなるとかなり苦しい結果となりました。今後に期待でしょうか。 falconllm.tii.ae www.ollama.com まどか☆マギカで一番かわいいのは? ねこです。CPU times: user 3.65 ms, sys: 150 µs, total: 3.…