Hatena::ブログ(Diary)

worldwidewug #3 このページをアンテナに追加 RSSフィード

August 19(Sat), 2017

あっという間の3ヶ月

インターン最終週ということで、ひたすら実験を回したり、最後のまとめスライドをつくるなど、今週は怒涛の追い込みでした。

振り返ってみると、メンターの二人も大変気さくで、楽しい3ヶ月でした。

(結局、最終日の終業時刻20分前まで実験を行っていましたが…)

今回のインターンでは、

  • QA&IEという自分にとって新しい分野に取り組めたこと
  • 自分が自然言語処理を始めるきっかけとなった、Watsonに(中身を含めて)接することができたこと
  • (今まで苦手意識があった)Javaが好きになったこと

など多くの収穫がありました。


最後のプレゼンで、とある方から大変鋭い質問が来ました。あとでメンターが教えてくれたのですが、ディープブルー開発者のマレー・キャンベル氏(カスパロフと対面して駒を動かした人)だったそうです。とても驚きました。


結局、最後までWatsonに勝つことはできませんでしたが、これからも毎日Jeopardyを見て勉強したいと思います。

f:id:keiskS:20170809101551j:image:w360

August 05(Sat), 2017

ACL2017 雑感

今年も「ブログを書くまでが…」のスピリットを守るべく、ACLでの経験、印象などを書き留めておきたいと思います。(テクニカルな話はきりがなくなってしまうので、省略しています。)


今年のACLはVancouverでした。

数えてみると自分自身は2013, 2014, 2016に続き、4回目の参加となりましたが、回を追うごとに参加者が増えている感じがします。今回は1800人ほどだそうですが、満席で中に入れないようなセッションもあり、コーヒーブレイクの間などは人が多すぎて動けない状態でした。


全体の印象としては、引き続きNeural全盛という感じで、またタスクとしてIE, QA, Dialogueが増えています。(WMTが国際会議扱いになったことも影響しているのかもしれませんが。。。)

MTのようなMappingのタスクから脱却しつつあるような印象です。また、単なるSeqence-to-sequenceを適用する話から、中で何が起こっているのかを解析したり、入出力を木構造にするなど、一歩踏み込んだ?話が本格的になってきました。(去年くらいからその兆しはありましたが。)そして、QAはいわゆるFactoidだけでなく、RCや照応解析、Reasoningなど、異なるタスクを一括りにしたタームになりつつあり、今後注意が必要かなと思いました。


また、本会議中は各企業による(招待制の?)ディナーイベントが連日あちらこちらで行われ、夜の美術館を貸し切ったり、高級レストランを貸し切ったり、これがバブルというものなのかという印象も受けました。UWの先生達と初めてじっくりとお話することができたのは、個人的にはとても嬉しかったです。そして、コネクション&人付き合いの大切さを改めて肌で感じました。(特に就活をしている身としては。)


今回のACLではChild careサービスがあり、子供連れの方も見かけました。一室がプレイルームになっていたり、Excursion的なものもあったとか。非常に良い取り組みですし、今後広がると良いなと思います。


自分の発表は本会議最終日でした。インターンに行っていることもあり、Vancouverに入るまでに十分な推敲・練習ができず不安だったのですが、スキマ時間を見つけて、先輩や同期、アドバイザーに発表練習を見てもらい、ブラッシュアップしました。また、逆に先輩や同期の発表練習を見て、いいね!と思ったところを直前に取り入れることができたのも良かったです。

発表自体は大きなトラブルもなく無事に終えることができました。分かりやすかったというコメントをたくさんもらうことができたのは良かったなと思います。ただ、今回ジェイソンの学生や、UCBの学生の発表を見て、まだまだ自分に足りないところを見つけることができたので、次回以降の発表に活かしたいと考えています。


自分自身の進路についても、会議中に色々な方とお話する中で方向性が見えてきました。秋には本格的にapply&interviewが始まるかと思います。何とか年内には決めたいところです。


実は今回もボランティアに参加したのですが、なぜボランティアしているのか聞かれることが多かったので、理由を書いておくと、

  • 学生の間しかできない
  • Main conference feeがタダになるので、先生の懐にやさしい。(その分の金額を、Amazon Mturk等でのアノテーションに使いたいと伝えていますが。)
  • 英語リスニング力の強化(特に非英語圏から来ているノンネイティブスピーカーの発音に慣れることができる)。特に子音の聞き取りが難しく、国ごとにアルファベットの読み方は異なる(例えばRをエルと読んだり)という事実を肌で感じることができます。
  • 国際会議中に新たな人とコミュニケーションを取る上での精神的なハードルを下げることができる。(自分は人見知りし易いやタイプなので、知らない人と無理やり話す環境を作る。)
  • 受付にいると自分が来ていることを知り合いに知らせることができる。
  • 論文でしか名前を知らなかった研究者の顔や声、雰囲気を知ることができる。(受付の学生に優しく接してくれる人は、大抵いい人です。)

今年はAAAIでもボランティアをしたのですが、ボランティアでの仕事がアイスブレイクとなり、初めての会議でも、自分が参加している感が高まるので、積極的になれるような気がしました。

もちろんボランティアは強制でもなく、自分は単に好きで応募しているだけなので、学生が全員ボランティアをすべきだとは思いません。ただ、知り合い同士でずっと固まってしまうよりは、新しい知り合いを作って、そこから更にコネクションを拡げることのほうが、国際会議の醍醐味なのではないかと思います。


今年は日本からの参加者も多く、(恒例行事となりつつありますが)松本先生とも一緒に御飯に行くことができました。

松本研の先輩・同期・後輩、NAIST・けいはんなの研究者、その他日本中のNLPer等々、久しぶりに(&初めて)会うことができて、とても嬉しかったです。また、Twitterでつながっていた人とリアルで話すことができたのも、大変刺激的でした。


また、今回はJHUから20人近く(学生・教員含め)来ていたようで、アットホーム感がありました。さらには同期がベストペーパーに選ばれるなど、NLPにおけるCLSPの存在感は十分アピールできたのではないかと思います。(来年のACLは北米ではないので、さすがに減るとは思いますが。。。)

いずれにせよ、自分の知り合いが活躍しているのを見聞きするのは、とても嬉しいことです。


帰りのフライトはUnitedということで、もしかしたら強制的に降ろされてしまうのではないかと少し心配だったのですが、幸いバゲッジロスト(シカゴで置き去りにされた)だけで済んだので良かったです。さすがはUnitedですね。

July 16(Sun), 2017

風邪の連鎖

ようやく自分の風邪(+気管支炎)が治ったのですが、今度は妻がダウンしてしまいました。さらにその後、再び自分がダウンするという、困った一週間となりました。

そろそろインターンも大詰め(ACLの発表準備&練習もある)で、ダウンしている場合ではないのですが、、、。

July 09(Sun), 2017

NY, it's a rich man's world.

今週は風邪(+気管支炎)も収束し、土曜日はマンハッタンにあるJoelさん宅のパーティに行ってきました。最終的には50人以上集まっており、研究以外にも音楽やStandup Comedyなど多方面での人脈の多さを見せつけられました。色々な人と話す機会があったのですが、IBMでインターンをしていると言うと、「自分もX年前までいたんだよね」という人が多く、世の中は狭いものだなとつくづく感じました。


また今日はNY郊外(Yonkersの近く)にある、Rockefellerの邸宅(Kykuit邸)とその周辺に行ってきました。豪邸自体はもちろん、家の中にも国宝級の文化財があったり、庭にもゴルフコースがあるは、巨大なガレージ(別の家かと思った)には往年の高級車が(今でも新品さながらの保存状態で)ずらりと並んでいるはで、驚きの連続でした。

使い切れないほどのお金があったら、自分ならどうするかな〜と考えたりもしたのですが、すぐに虚しくなってきてしまったので「これは博物館見学なのだ」と自分に言い聞かせました。


まったくの余談ですが、Rockefellerは日本語だとロックフェラーとなりますが、実際の発音を聞いていると、ロッカフェラーに近かったです。

July 01(Sat), 2017

ファントム

今日はブロードウェイまで出かけて、オペラ座の怪人(実は初めて)を見て来ました。

なんとか咳(急性の気管支炎?)も収束に向かいつつあるようで、良かったです。

凝った舞台装置と素晴らしい役者、照明、そして(小規模ですが)オーケストラの生演奏に圧倒されました。

これだけ多くの人が自分のスキルを持ち寄って1つに舞台を作り上げるというのは、すごいなと思います。


余談ですが、途中立ち寄ったAmorinoというイタリアンジェラート屋さんが、とてもおしゃれで美味しかったです。世界中に進出しているようですが、残念ながら日本にはまだないようです。

June 30(Fri), 2017

相性の悪い会議?

EMNLPの結果が返ってきました。個人的にはあまり納得がいかない査読&レスポンスに対するコメントもなしで、今回は査読者・Area Chair運が悪かったように思います。自分も査読に参加していますが、査読の質というよりは、査読者の好み(やスコアの付け方)が人それぞれすぎるので、運要素が非常に高い気がしています。今年ACLに通った論文も、ほぼ同内容で去年のEMNLP、今年のEACLと2回Rejectを経験しているので、誰かしら4以上をつけているのであれば、ひとまずarXivに出して、あとはルーレットを廻すような気持ちでSubmitし続けるしかないような気もします。。。

良くも悪くも会議規模が拡大し、さらには研究のスピードが加速している事もあり、ここ最近はConferenceの存在意義についてのコメントも見聞きするようになりました(自分の中では親しい知り合いと直接会って話したり、新たな出会いにも巡り合える場という感じです)。

個人的にはarXivによるflag plantingは(良くも悪くも)今後加速しそうな気がします。arXivにあげると数日後にはフィードバックが来ることも多いので、やはりスピードも重要なのかなと感じます。


いずれにしても、arXivに急いでアップしないと他の人にscoopされてしまうようなlow hanging fruits研究はそろそろ脱却して、今後はよりChallengingなトピックに取り組みたいと考えています。いきなりは大変&リスキーなので少しずつシフトしていければと思います。

June 25(Sun), 2017

アップアップ

インターンの折り返し地点がもう目の前に近づいてきました。

今は実装フェーズでとにかく手を動かしております。

週の後半から完全に風邪でダウン。急性気管支炎っぽい症状もあり、咳が止まらず体力の消耗が激しいです。外はいい天気なのにそれを満喫できず残念です。

(週の前半にあった妻の誕生日は無事にお祝いできたので良かったですが。。。)


インターンでは久々にJavaにどっぷり浸かっているのですが、IntelliJ IDEAが以前に比べて段違いに使いやすくなっているので、とてもありがたいです。型があると読むのも書くのも色々安心できます。

そういえば、PythonもTypeを使える(単にコメント的な扱いかと思いきや、PyCharmではTypeチェックまでしてくれる)ようになったそうなので、これはありかもしれません。