Tanuki-8x8Bのオリジナル版のモデルサイズは94～95GBくらいある。このサイズになると通常のPCクラスでは動かすことができない。そこでColab ProのようなクラウドのGPUを借りることになる。しかしワークステーションと呼ばれるクラスのマシンを購入すればローカルな環境でも95GBサイズのモデルを動かせることを最近知った。 Tanuki-8x8Bオリジナル版の動かし方 以下のサイトに解説記事がある。 使用マシンにはNVIDIA RTX A6000というGPUが２枚使われている。１枚でVRAMが48GBあるので96GBのVRAMになる。 Tanuki-8x8Bオリジナル版を動作させるに…
note.com