nvidia-docker

NVIDIAのGPUのH100、A100、A30にはマルチインスタンスGPU（以降MIG）という機能が実装されています。 かつては専用ソフトウェアを使って1つのGPUを複数のGPUがあるかのように見せて、対応するアプリケーションで使うことができましたが、 先に挙げたGPUであれば追加ソフトウェア導入の必要なく、複数のインスタンスでGPUが使えます。 https://www.nvidia.com/ja-jp/technologies/multi-instance-gpu/ MIGをDockerで使ってみる 環境のセットアップ MIGをDockerで使うには、まず、OSにDocker Engine…