Hatena::ブログ(Diary)

worldwidewug #3 このページをアンテナに追加 RSSフィード

May 23(Wed), 2018

もう5月(も後半)だなんて

3月下旬からは、今までの人生で最も忙しい期間として記録に残りそうな、そんな状態が続いています。

ここへ来て、ようやく一段落ついたのですが、おそらく来週から再び慌ただしさ&忙しさが急上昇する予定なので、ここでひとまずまとめておきたいと思います。


3月は就活に多くの時間と労力を割くことになりました。アメリカでの就活は初めてで右も左もわからなかったので、色々手探りではありましたが、最終的には大変良いオファーをいただくことができ、一安心です。またアメリカの就活(オファー後)では交渉が当たり前ということで、自分も手探りながら交渉をしてみたり(笑)。何事も人生経験です。そして今回の就活を通して、良い出会いにも多く恵まれました。日米含め魅力的なオファーをいただくなかで、最終的に1つに絞るのは大変悩ましいものでした。また就活というプロセスは、改めて自分の好みや向き不向きを知るいい機会にもなりました。(例えばEngineer系の職種では、面接等でもあまり話が合わなかったり、結果的にもことごとく祈られ続けました。)


4月はディフェンスの準備に追われつつ、ビザ&保険関係で結構大きな問題が発生し、その対応に追われる(現在進行中)一方、ACLに論文が無事に通るなど、あまりのアップダウンに胃潰瘍寸前まで追い込まれました。(前回の胃潰瘍の経験があったため、なんとかギリギリで回避できたように思います。)

ACL論文については、去年から2度Rejectされていたものの、4,4,6というスコアでアクセプトとなりました。とはいえ、4,4,4や4,4,5でリジェクトになっている話を周りで聞いているので、運が良かったのだろうと思います。ここまで来ると、3人(+α)の査読にどこまで信頼性があるのかと言った点や、Acceptance rateを一定にする意義(もしSubmitされた論文が全部高いor低いクオリティだったら、どうするのかなど)についても、色々考えてしまいます。

個人的には、規模が大きくなってきているのが主な原因で、国際会議のあり方、存在意義そのものを考える必要が出てきている気がします。(昔から言われているのかもしれませんが。。。)


4月最後の一大イベントはディフェンスでした。発表自体は去年末くらいから何度かやってきていたため、それほど準備に時間はかかりませんでしたが、最後のスライドでアドバイザーやラボメートへの謝辞を述べる際に、これまでの5年間の出来事が走馬灯のように蘇り、感極まりそうになりました。これまで何度も書いた気がしますが、本当に良い先生や仲間に恵まれたなと思います。(アドバイザーは二人とも前日に応援メッセージをくれました。ベンに至っては、明日の乾杯はSakeかシャンパンのどちらがいい?とまで、聞いてくれました。)こんなにおめでとう、とかcongratsと言ってもらったのは結婚式以来な気がします。

こんな居心地の良い環境から「卒業しなければいけない」のはとても辛いものがありますが、新天地で頑張ることが恩返しになるのかなと思います。

自然言語処理を勉強し始めてから(=NAIST松本研に入ってから)、はや7年。やっと研究者としてのスタートラインに立つことができました。まだまだ知らない(知りたい)ことがたくさんあるので、これからも自然言語と向き合う所存です。


5月に入ってからは、就活やらDefenseやらで遅れていたプロジェクトを進めるも、EMNLPには残念ながら間に合わず。ゼロから実装、実験(trial and error)&執筆を3週間で、というのはさすがに厳しかったですが、締め切り前日まで諦めないアドバイザーの姿勢は見習いたいものです。そして、間に合わなかった(=うまく行かなかった)ときに、必ず「間に合わなかったのは残念だったけど、新しいアイディアも出てきたし、次のチャンスにつなげよう。」という感じでひとまずポジティブに締めくくってくれるのは、とてもありがたいです。


そんなこんなで、激動の3〜5月でしたが、6〜8月は大きなイベントが目白押しで更に忙しくなる予定なので、どうなることやら。

とにかく毎日コツコツ頑張りたいと思います。

March 21(Wed), 2018

運試し?

査読をしたりされたりするシーズンですが、どうも最近の大規模なNLP国際会議の査読が運ゲー(査読者ガチャ)のような感じになっている気がします。実際にシニアの研究者の方々との雑談でも(ここ1,2年?)同じような話が出てきます。

また査読コメントも単に批判だけのものが多く、「こうしたら良くなるよ〜」という建設的なコメントが少ないのも気になっています。これではarXivに上げる(&Twitter上でのコメントを読む)のと大差ないですし、(まじめな、あるいは昔からいる)人が離れていってしまうような、、、。

これでは批判だけですので、ちゃんと建設的なアイディアも述べておくと、まずはopen reviewにして著者やReviewer以外の人も議論に参加できるようにすることと、N段階のスコアをなくすのが良いと思います。N段階のスコア(& ambiguousでbiasが掛かりそうなrubric)は、個人個人の尺度に強く依存しすぎている気がします。

Reviewの質を担保し、Reviewer, ACの負担を減らしつつ、より良いサイクルが出来れば良いのですが、もし状況が変わらないようならarXiv+github等で良いかなと思い始めています。


ちなみに、査読の運要素が高まり、かつ*ACLが始めたarXiv1ヶ月前ポリシーの結果、締切より1ヶ月前に原稿を完成させるのが最適という認識になりつつあります。それだけ参加者が増えて競争が激しくなってきている証拠かもしれません。

February 28(Wed), 2018

ちりもつもれば

Defenseのことや進路(就活)のこと、家庭のこと、研究のこと、Tax Returnのことなど、色々と細々したことが積み上がってきております。3月、4月はちょっと大変そうですが、ここが正念場なので優先順位を見失わないようにして頑張りたいと思います。周りの人が色々と助けてくれるので、本当にありがたいです。

February 04(Sun), 2018

何か見えない負の力

のようなものが働いているのか、研究面でうまくいかない状態が続いています*1。こういうときは、ジタバタせず泰然自若と、毎日コツコツやるべきことをやるしかありません。実際問題、運によるところも多かったりするので、今はそういう時期だと思って、じっと堪えることが肝要。自分にとって一番大切な物事、方向さえ見失わないように歩き続ければ、自ずと霧は晴れるものです。

*1:1月〜3月はなぜかこういうことが多い。

February 01(Thu), 2018

keyはkeynoteにあり?

ベルリンにサバティカル中のマット(アドバイザー)が現地でトークをしたそうで、事前に自分がこれまで作ってきたスライドを渡していたのですが、マットが実際に発表したスライドが送られてきました。そのスライドがあまりにも美しく洗練されていて驚いてしまいました。久しくマットのトークやスライドを見ていなかったので忘れかけていましたが、何というか、とにかく論文やコードやスライド(&トーク)などのアウトプットの美しさ、そしてカッコイイ引用が、いつも自分の心を打ちます。そのあたりについて、色々と手直ししてもらうことはあったけれど、根本的な部分(魚ではなく魚の釣り方のようなもの)については、あまり聞いたことがなかったなと、今更ながら気づきました。次に会ったときにぜひ聞きたいと思います。


松本研にいたときにも、同期の@tuxedokatzeさんのスライドが綺麗で、いつも感動していたことを思い出したのですが、この辺りの美的センス、バランス感覚のようなものは、どうすればトレーニングすることができるのでしょうかね。。。ぱっと思い浮かぶ共通点は、両者ともPower pointではなくてKeynoteを使っていること、でしょうか。。。


全くの余談ですが、もう一人のアドバイザーであるベンはDon't use Keynote, use PowerPoint.というポリシー*1で、この二人のアドバイザーについている身としては、どうしたもんかと悩んでしまいます。(もう5年目ですが。。。)

*1:これは、スライドを送ってくれと言われたときに、PDFではなくPowerPointが要求される場合も結構多いから、という実用的な理由からだそうです。とは言え、Keynoteを使ったからFiredといったことにはなりません。このあたりの、お互いのポリシーを尊重しつつ議論するというプロセスが自分はとても気に入っています。

January 22(Mon), 2018

善悪が判断できる人工知能

最近、倫理学の本「Beginning Ethics: An Introduction to Moral Philosophy」を読み始めました。各チャプターが短くまとまっており、とても読みやすいです。


このままAI技術が進歩していくに従って、おそらく避けては通れない部分だと考えている分野です。ちょっと懸念しているのは、実際の善悪云々ではなく「計算機で表現しやすそうな倫理(≒功利主義?)」のようなものに流れていってしまうのではないか、という点です。「善悪が判断できる人工知能誕生!」という見出しが出てきた際に、善悪の判断基準となっているものが何か、についてちゃんと理解できるよう準備しておきたいなと思います。


やはり自分の興味の根っこにあるのは哲学とか倫理学のようなもの(そしてそれを支えている言語)なのかなと、改めて感じます。*1

*1:昔から「他人からよく見られたいという理由で、電車で席を譲ることは善いことかどうか。」みたいなことを考えてたなぁ〜と思い出しました。

January 20(Sat), 2018

1週目の成果

今週はNeural Stackを実装しました。PyTorchは初めてでしたが、Chainerに似ているのもあって3日ほどでほぼ完成できました。精度もちゃんと出ているようで一安心です。ただ、コードが公開されていなかったのと、論文に詳細があまり書かれていない部分があり、ウェブ上には独自解釈による実装が溢れかえっていました。結果的には、どこが論文と違っているか等を調べることにもなり、勉強になりました。別件の論文執筆も少しずつ進めていますが、果たしてどうなることやら。。。