Hatena::ブログ(Diary)

あした、きっと かわる。。。

2013-12-18 Hadoopは誰が開発しているのか(2013年)

この投稿は @hamaken によるHadoop Advent Calendar 2013の18日目の記事です。

このエントリでは、Hadoop が誰の手によって開発されているのか・・・を紹介します。

これまでに Hortonworks や Cloudera によって Hadoop に貢献したコード量などの集計が紹介されてきました*1。しかし、2011年を最後に新しいデータが出てきていないので、2013年はどうだったのかなー、と思い集計してみました。

集計作業は @ajis_ka さんに協力してもらいました。ありがとうごさいます!

■ 集計方法

皆さん、ご存じのとおり Apache Hadoop の開発は JIRA を中心に進められています*2。新機能も、バグ修正も、JIRA の Issue として登録・管理されるのが原則です。

今回の集計では、Hadoopの主要コンポーネントHADOOPHDFSMAPREDUCE、YARN)の Issue の assignee の名前とメールアドレスを抽出、また Gitログから各 Issue ごとのコミット日時、変更行数を抽出しています。その上で、コミット時刻が2013年のものに絞り、メールアドレスの @ 以降をもとにグループ化して、組織ごとの Issue件数、コード量 のランキングを作ってみました*3

Hadoopへの貢献ランキング(Issue件数)

登録された Issue は全部で 1855 件で、10件以上となったのは次のとおりでした。

組織issue 数
1Hortonworks677
2Cloudera349
3yahoo-inc139
4Microsoft82
5Grid Dynamics44
6NTT & NTTDATA31
7Huawei28
8VMware21

やはり、Hadoopを専業にしている Hortonworks や Cloudera、Hadoopの開発を始めた Yahoo! が相当数を担っているのが見て取れます。一方で、Hadoopディストリビューションも提供している MapR、IntelIBM、Pivotalは貢献されているものの、あまり目立たないなぁーという印象です。個人的には、想像していたよりも Microsoft が多かったな、と。

また、NTT & NTTDATA は31件で6位という状況でした*4

Hadoopへの貢献ランキング(コード量)

コード量は全部で554,538行で、500行以上を挙げると次のとおりです。

組織コード量(行数)
1Hortonworks252539
2Cloudera99596
3Grid Dynamics24765
4yahoo-inc24643
5Mirantis14457
6Microsoft4096
7syncsort3928
8VMware3038
9Huawei1264
10NTT & NTTDATA1227
11GoPivotal917
12WANdisco703

順位はおおよそ Issue 件数と同様の並びです。約半数を Hortonworks が占めています。ちょっと面白いのは Issue 件数では10件未満だった Mirantis が第5位で 14457 行のコードを変更しています。実は、これは1件の Issue で OpenStack Swift 対応のコードを大量に追加するという HADOOP-8545: Filesystem Implementation for OpenStack Swift によるものです。

NTT & NTTDATA は、Issue件数 では 6位 でしたが、コード量では 10位 という状況です。Hadoopの構築や運用、Hadoopサポートサービスの業務で得たノウハウや課題をできる範囲でフィードバックしているつもりですが、もうすこし頑張らねばなーと思うところです。10位といっても、絶対量だと上位5社に圧倒されていますし・・・

ちなみに、NTT & NTTDATA の貢献者は次のメンバですね*5

NTT および NTTデータ がどのようにHadoopに関わっているかは、Clodera World Tokyo 2013の時の小沢さん@oza_x86)のプレゼン資料でおわかり頂けると思います(Hadoopコミュニティでの活動という観点では、NTTNTTデータも協力して活動を進めています)。

■ 最後に

なんとなく、自分達の活動の振り返りみたいになってしまいましたが、2013年にどの組織の開発者が Hadoop に貢献したのか、おわかり頂けたのではないでしょうか。まだ、2013年は続いてますので(笑)、ここでのデータは2013年12月9日までのものです。年が明けて機会があれば、最終的なものもご紹介したいと思います。

2014年は、NTT & NTTデータ でより多く貢献できるように取り組みを進めていきたいと思います。今のところ、日本からの貢献はさほど多くないように見えますので、皆さんもぜひご参加ください!

次回は @pioho07 ですね。お楽しみに!

*1:記事 "Reality Check: Contributions to Apache Hadoop" や "The Community Effect" をご覧ください

*2:たとえばここ

*3:この手のものは集計方法によって結果が変わります。たとえば、今回の集計ではapache.org, gmail.com, ymail.comは除外しており、ここをLinkedInなどと照合して所属組織を突き止めれば、結果が変わるかもしれません。またassignee以外の人もパッチで貢献している可能性もあります。

*4:Issueは大きな機能開発もちょっとしたバグフィックスも同様に1件としてカウントされていて、多くは細かい話だったりしますが。

*5:SqoopやZooKeeperなども含めればもっといますが・・・