Hatena::ブログ(Diary)

naoyaのはてなダイアリー

June 27, 2007

さくらインターネット移行記#4 はてなダイアリー移転

f:id:naoya:20070627104049j:image:w400

いきなり失礼しました。はてなのインフラチームの打ち上げは渋谷で焼肉と相場が決まっています。これは前回の打ち上げで行った焼肉屋での一枚。明後日にははてなダイアリーデータセンター移転打ち上げを開く予定です。

...ということで、昨日ようやく、はてなダイアリーをさくらインターネットのデータセンターへ移転しました。恒例の写真で振り返る移転レポート、はてなダイアリー移転編です。

f:id:naoya:20070626014955j:image:w400

今回の移転は深夜に行いました。0:00 に会社に集合。移転にあたって一ヶ月くらいかけて準備をしてきたので慌てることもなく、サービス停止時間の 2:00 までわりとマターリ進行でした。僕は id:hideoki と PSP でモンハンしてました。

f:id:naoya:20070626001622j:image:w400

これは ENERMAX LIBERTY 電源。最近はてなの自作サーバーで愛用している電源です。はてなダイアリーの移転にあたり動いているサーバーを止められるチャンスだったので、これを期に古い電源をこの電源で置き換えました。昔使っていた電源よりも電源効率が高いので消費電力を下げることができます。

f:id:naoya:20070626015250j:image:w400

メンテナンス時間を心待ちにする前回も活躍した例のバイト君。電動式ドライバの動作を検証しているようです。ちなみに彼のあだなは GTD です。

f:id:naoya:20070626021049j:image:w400 f:id:naoya:20070626171340j:image:w400

2:00 になったのでメンテナンス開始。あらかじめ付箋をつけておいたサーバーをサーバールームから運び出します。台車でゴロゴロ。

f:id:naoya:20070626171336j:image:w400

小物はダンボールに入れると運びやすいですね。

f:id:naoya:20070626171346j:image:w400

一旦オフィスに移動します。並べると結構すごい数。

f:id:naoya:20070626021248j:image:w400

左がの緑が量産型、右の赤いのが速いやつ。赤い方は 4コア CPU の Core 2 Quad Q6600 が載っています。「はてなの赤いヤツは4倍速い!!」

まじめな話、量産型の方は Intel の G965 チップが載った Intel マザーに Core 2 Duo E6600、赤い方は ATI Radeon XPress 1250 に Core 2 Quad Q6600 です。赤いマザーボードは ABIT Fatal1ty F-190HD というなかなかのキワモノで主にハイエンドゲーマー向けの一品。うちの自作筐体は省スペースのため MicroATX しか載らない。ちょっと前までは MicroATX で Core 2 Quad が使えるのはおそらくこの赤いやつだけだったと思います。また MicroATX なのにメモリが 16GB まで使えるし、コンデンサはルビコン社の日本製105度品を使っています。(サーバーには全然必要ないけど HDMI 端子とかもついてる。) それでいてお値段は 15,000円程度とロープライス。まさか Fatal1ty ブランドの人たちもこれがサーバー用途に使われてるとは思うまい。(なお、先日発表になった Intel G33 では Core 2 Quad が使えるので、今後はそちらに移行する予定です。)

Core 2 Quad は今年の頭に価格改定が行われて7万円で買えるようになった上、TDP が 95W まで下がりました。PC 雑誌などを見ると消費電力あたりの性能は E6600 のほうが若干上のようですが、サーバーを複数台使うことを考えると、E6600 と Q6600 で同性能を確保するためには E6600 の方が台数が増えて、マザーボードやディスクなどの消費電力の合計が Q6600 使用時を上回ります。最近は明らかに CPU 性能を生かしきれる用途の場合、Q6600 を使うようにしています。

f:id:naoya:20070626041848j:image:w400

一方、データベース用途などメモリの品質/上限やストレージ周りの性能が重要になる用途では引き続き DELL の PowerEdge SC1435 を。こちらは Opteron 2210HE ですね。この夏には AMD の 4コア CPU も出るようですし、サーバーラインナップの改定が楽しみです。

以前にグループ日記にもちらっと書いたのですが x86_64 ハードはほんとPC サーバーでがんばるはてなには超追い風です。メモリもいまは 1GB が 4,000円のこのご時世、拡張64ビットさまさまです。

f:id:naoya:20070626022013j:image:w400

電源を交換中。もともと電源を交換することは想定していないサーバー設計だったので、交換というか一回ばらして作り直しになってしまい作業に思いのほか時間がかかります。一番多く交換した人に褒美を出そうか、なんて話しながら作業を進めます。

f:id:naoya:20070626171323j:image:w400

終わったものはレンタルしてきたバンに積み込み。妙にテンションの高いうちの鯖缶(サーバー管理者)。さすがに台数が多いので今回は社用車のインプレッサ君はお休みです。

f:id:naoya:20070626171401j:image:w400

車で移動しデータセンターに到着。持ってきたサーバーをどんどん搬入します。運動不足のデスクワーカーに肉体作業はなかなか堪えます。

f:id:naoya:20070626171431j:image:h400

作業を進めやすいよう、アドレス順にソート。ドミノ倒しか。

f:id:naoya:20070626171435j:image:h400

あらかじめ早めにラックを開けておいて、ネットワーク機器の設置は完了済み。手分けして持ってきたサーバーをどんどん積んでいきます。あれ、なんかデザイナーっぽい人が一人いますね。うちのデザイナーはコードも書くし、ネットワーク配線だってお手の物です、あと車の運転も。

積み終わったあとは、

f:id:naoya:20070626055523j:image:h400

とこんな感じになるわけです。

f:id:naoya:20070626171333j:image:w400

DELL のラックマウントキット片手に真剣な眼差しの id:hideoki。モンハンやってるときとは別人のようです。

f:id:naoya:20070626103958j:image:h400

DELL の PowerEdge SC1435 に加えて、Sun Fire X2100 も一部で使ってます。エントリーレベルのサーバーですが、3.5 インチドライブがフロントパネルからホットプラグ可能なのがいいです。中身はこいつも AMD Opteron。

f:id:naoya:20070626103641j:image:w400

例の赤いヤツが動き始めます。赤光りしてます。「こちとらには1万2千万枚の特殊装甲とATフィールドがあるんだからぁ!」

f:id:naoya:20070626103526j:image:w400

ふらっと現れた、一時帰国中の近藤クンによる差し入れ。社長、データセンターは飲食禁止です。

f:id:naoya:20070626125942j:image:w400

Apache 2.2 の mod_proxy_balancer のバグ? (調査中) ではまったりしつつもなんとか移転完了。万歳! しかし、ラックを閉めたら嵐のあとのなんとかですね。なにごともなかったかのようだ。

今回の移転にあたっては、電源交換もそうですが、せっかくサーバーを何時間も止められるのでネットワーク機器や一部サーバーの入れ替えも同時に行いました。日記にアップロードした画像を保存しているファイルサーバーを DRBD + keepalived で冗長化したりもしました。(データの同期が不十分でご迷惑をおかけしています、ごめんなさい。) これで SPOF がまたひとつ減って安心です。

はてなダイアリーははてなの各サービスの中でも最も大きいサービスということもあり、移転作業はひとつの節目でもありました。残りは人力検索などのサービスを移動すればほぼすべてのサービスの移転が完了します。がんばりたい。また、移転が完了したサービスも、よりいっそう快適にお使いいただけるよう万全の体制で臨みます。

今後ともはてなのサービスをよろしくお願いします。

追記

たったいまスタッフから聞いたところ、はてなダイアリー全体のトラフィックが移転後結構上がってるみたい。やっぱり回線の品質があがるとトラフィックも伸びるんだなあ...ってハードに負担が! 嬉しい悲鳴!

わ 2007/06/27 20:26 はてダのサーバ移転お疲れさまでした。
スゲーはやくなってますね。
ちょっと気になったんですけど、LANケーブルにちっちゃい値札みたいなやつ(名称がわからない)を取り付けてノード名とアドレスを書いておいたほうがいいですよ。
以前ウチの会社では間違えてぜんぜん違うケーブル引っこ抜かれたことがあります(泣

kame-donkame-don 2007/06/27 20:36 作業お疲れ様です。
写真を見て気になったのですが、ジュウタンの上での作業と
フリースを着ての作業が非常に気になりました。(--;)

静電気大丈夫ですか?

cat_keicat_kei 2007/06/27 22:14 量産型ザク・・・・いや、量産型のマザーの詳細もちょっと知りたい。
見た感じSATA でRAID組んでるのかな?

エックスエックス 2007/06/28 07:03 バイト君なんて失礼だ。「ミスター・ビー」だ。
キミは、組織にとってとても重要な存在だ。
エンジニアなんてワガママでまとまりがなくて反組織的で将来を見渡せていないのが相場。
きっと、いろいろな無駄を感じつつ黙って作業を進めているのだろうなぁ。
近藤社長は差し入れも大切だけで、ミスター・ビーの隠れた素質を引き出せ!
スターを集めて効率よくやりすぎだ。
ゼロから一人育てろ!

おつかれさまですおつかれさまです 2007/06/28 12:34 余った機材とかどうしているんだろう。
スタッフがほしがらなかったパーツはプレゼントしちゃえばいいのに(ボソ