Hatena::ブログ(Diary)

ちくたく このページをアンテナに追加

2012-04-04

OpenMPIでダイナミックな環境を構築

MPIを使ってスパコンのような並列コンピューティング環境を構築するにあたって、一番、気になった点は、「どうやってそれぞれのマシンで実行プログラムを共有するか?」である。

学校や企業でスパコンのような環境が用意されている人たちはあまり気にしなくてもなんらかの運用方法が提供されているだろうが、一から環境を組み上げる人にとっては気になる点だと思う。

Webで調べてみると、どうやらNFSで実行プログラムを共有するのが一般的なやり方のようだ。全てのコンピュータNFSでマウントされたファイルを読み、そこから実行プログラムを取り出す。うーん、趣味に合わない。スパコンってダイナミックでヘテロ*1な環境で動くんじゃないの?というのが私の主張。世の中、NFSが主流のようだが、なんだかしっくりこない、というわけでいろいろ調べてみたので、その結果を残しておく。

実行プログラムの共有方法

実行プログラムの共有方法はいくつかある。

  1. 実行プログラムNFSでマウントして、複数コンピュータで使う
  2. 実行プログラムをそれぞれのマシンに転送(scp,ftp,etc)して使う
  3. 実行プログラムをそれぞれのマシンでコンパイルして使う
  4. 実行プログラムを実行時にそれぞれのマシンに自動転送して使う

一般的なのが1、2。3は面倒だが、ヘテロなマシン(Linux,Mac,Win,etc)で環境を構築できる。そして、私がしたいのは4。

OpenMPI

MPIにはMPICH2、LAM、OpenMPIといった様々な実装がある。私は、Macに初めから搭載されていたOpenMPIを使って見ることにした。

まずは、OpenMPIで簡単なプログラムを作って、動作させる。動作方法は上記2と3。どちらもうまく動くことを確認。

次に4にトライ。OpenMPIのmpirunコマンドのマニュアルを読むと、"--preload-binary"というオプションがある。まさしく、私が求めていたもの。

実行プログラムの自動転送

"--preload-binary"動かしてみる。

% mpirun -host 192.168.1.1 --preload-binary -np 10 ./a.out

以下のエラーメッセージが出て、動かない。

--------------------------------------------------------------------------

WARNING: Remote peer (26776,0],1]) failed to preload a file.

Exit Status: 256

Local File: /tmp/openmpi-sessions-xxx@localhost.localdomain_0/26776/0/a.out

Remote File: a.out

Command:

scp host2:/home/hoge/a.out /tmp/openmpi-sessions-hoge@localhost.localdomain_0/26776/0/a.out

Will continue attempting to launch the process(es).

--------------------------------------------------------------------------

--------------------------------------------------------------------------

mpirun was unable to launch the specified application as it could not access

or execute an executable

--------------------------------------------------------------------------

scp時にパスワードを手動設定するところに問題があるようなので、以下のページを参考にして、マシン間の双方向でsshログインを自動化。

http://www.turbolinux.com/support/document/knowledge/152.html

それでも変わらないエラーメッセージ

しかたなく、ググッてみると、以下のページに出会う。

http://www.open-mpi.org/community/lists/users/2009/12/11479.php

要点をまとめると以下。

  • OpenMPIの1.3とか1.4では"--preload-binary"の動作にバグがある可能性がある
  • sshの自動ログインは双方向でできるようにしておく必要がある

なるほど。そういうことか・・・

って、バグかよ!

と疑いたくなるところをぐっとこらえて、もう一度エラーメッセージを見てみる。

WARNING: Remote peer (26776,0],1]) failed to preload a file.

Exit Status: 256

Local File: /tmp/openmpi-sessions-xxx@localhost.localdomain_0/26776/0/a.out

Remote File: a.out

Command:

scp host2:/home/hoge/a.out /tmp/openmpi-sessions-hoge@localhost.localdomain_0/26776/0/a.out

Will continue attempting to launch the process(es).

これは、ファイルのコピー(scp)に失敗していることを意味する。もしかしたら、この時点でsshの双方向ログインがうまくいっていない。いつもは、IP直打ちならうまくいくことを確認していたが、このメッセージ内ではホスト名が使われている。

以下のコマンドを打ち込んでみる。


scp host2:/home/hoge/a.out /tmp/openmpi-sessions-hoge@localhost.localdomain_0/26776/0/a.out

パスワードを入力するよう確認してきた・・・

ホスト名を使った場合、双方向通信ができていない。

ということで、sshで自動ログインできるようホスト名で再設定。もちろん、双方向ができるように設定。

そして、再度、トライ・・・・

やった、できた!

最後に

バグかと疑ったが、自分が間違えていたい。よくあることだ。反省反省。

ちなみに、1.5でもうまく動きました。

私の考えるダイナミックな並列コンピューティング環境*2に一歩近づいた。

*1:調べてみると、同一CPUアーキしかサポートしてない

*2sshの自動ログイン設定はしないといけないが・・・

2012-03-10

iOS5.1にアップデートできないときは

iOS5.1へのアップデートを試みていたが、うまくアップデートができなかっった。

アップデートサーバへのアクセスが集中しているのだろうか。

と思い、MaciPhoneの両方でアップデートを試みたがうまくいかない。

ソフトウェアアップデートサーバに接続中」でいつまでたっても動かない。

アップデートを確認できません ソフトウェアアップデートの確認中にエラーが起きました。」とエラーメッセージが表示される。

  • 解決策

DNSの設定を「8.8.8.8」「8.8.4.4」へ変更する。そうするとあっさりとアップデートが開始された。

「8.8.8.8」「8.8.4.4」はGoogleが提供するDNS。その他、使えるDNSとしては、NTT America Technical Operationsの129.250.35.250がある。いろいろ、DNSの設定を変えて、試してみるのがよさそう。

  • 考察

DNSの設定の問題だろう。正しいDNSへアクセスしようとしていると考えるとやはりアクセスが集中していると考えられる。大量のiOSアップデートに備えて、アップデートサーバを強化したが、DNSレコードが従来のものかわ変わっておらず、アクセスが集中してしまっている、とかなんとか。