Hatena::ブログ(Diary)

児童小銃 RSSフィード

みえない自由が欲しくて
みえない銃を撃ちまくる
THE BLUE HEARTS 「TRAIN-TRAIN」

なんばりょうすけの仮住まいです

連絡先: rna◎cyber●email●ne●jp


プライバシーポリシー


2014-01-12

[] 人工知能学会の表紙の件(その2)

前回のエントリ「人工知能学会の表紙の件」への反応を中心に続編を書くつもりでしたが、むしろ現役の人工知能研究者の方の話が面白かったので、一応質疑応答形式になってますが、半分くらいはそっちの話題です。

現役の人工知能研究者はどう思ってるの?

あのあと現役の研究者の意見を読む機会がありました。研究者としてもあの表紙は問題含みであると自覚している人もいました。また「ロボット工学三原則」のさらに先について、真剣に考えている研究者も少なくないようです。

大澤博隆さんの記事

一つは、人工知能学会の会員で、あの表紙が公開される前に関係者に意見を述べる機会があった大澤博隆さんによるブログ記事です。*1

大澤さんは人工知能研究の一分野であるヒューマンエージェントインタラクション(HAI)という分野の研究者です。人間のような姿をしたロボット(エージェント)と人間との関係をどのように設計するか、といったような研究分野で、人工知能学会が学会誌の表紙で提起しようとしたテーマとは深く関わる分野です。

記事には、HAI研究に関わる論点の他、問題の表紙の選定プロセスについての説明など様々な論点について詳述されているので是非ご一読を。ここでは僕の論点に関連する部分のみ取り上げます。

大澤さんが事前に表紙を見た際には、それが女性差別的なイメージを喚起することを懸念し、しかし「無意識的な差別意識を暴き出す、というようなエクスキューズがあれば良い」と伝えた、とのことです。

「エクスキューズ」についてもう少し説明しますが、この表紙は、人工知能におけるモチベーションの矛盾をうまく示しているように思えました。人工知能の研究者の中には(非明示的にせよ)人間と同じような創発的な知能を作る、というゴールを目指す人も多いです。しかし工学的には、その知能に人間と同じような自由を与える動機はありません(工学の第一義の目標は、ある課題に対する解決策を提供することで、それ以外のことを考える必要はありません)。人間に似た形状をもつものを、掃除という課題で縛り、電力線で繋留している図は、その動機の矛盾点を暴きだしているとも解釈できます。「汎用の課題を解決できる人工知能に関する研究(Artificial General Intelligence)」の輪講に関わっていた身としては、このテーマは非常に気にかかるものでした。付け加えれば、ピグマリオンコンプレックス(特に「マイ・フェア・レディ」のような)観点から考えても、自律性と制御性というのは面白い課題だと思いました。

Thinking Spot: 人工知能学会の表紙について、会員として調べた/考えたこと

大澤さんによると、僕が思っていたほど工学寄りに割り切った考え方をしない人も多く、そういう立場からすると、その立場故に研究の動機に矛盾を抱えてしまっている、ということのようです。

敢えて問題的な表現をすることで問題点を暴き出す、というのはアリだとは思います。そういう告発的な(あるいは挑発的な)表現であることが伝わるようなプラスアルファが「エクスキューズ」として必要ということなのだと思います。

確かに、あの表紙にキャッチコピーを一つ入れるだけでも随分印象が違ってくると思います。例えば「お掃除が終わったら出かけてもいいですか?」とか…

うーん… 「エクスキューズ」をスマートかつ間違いなく伝わるように表現するのはなかなか難しいかもしれません。「エクスキューズ」に失敗すると、単なる差別表現として機能してしまいますから、やるなら用意周到にやらなくてはなりません。

しかし大澤さんが関係者にコメントした時点では表紙は最終稿で、発表の3日前ということで間に合わなかったようです。

大澤さんのコメントは twitter 上で見れます(リプライ先は非公開アカウント)。

ヨコハマ買い出し紀行、のバランスとかは好きなので」とのコメントも。言われてみるとヨコ出し的な雰囲気のある絵ですね。そのへんの素養があると、いい絵なのにボツにするのはもったいない…! という気持ちが先行してしまうのかも…

ブログ記事の方に戻って、もう一点。人工知能学会誌では、人工知能が人間を越えた時、社会に何が起こるか、といったテーマの特集があったそうです。

また、本年5月には、人工知能の知性が人間を超えるその「特異点(シンギュラリティ)」に関する特集がありました。ここでは、単純に技術だけでなく、社会がどう変革されるか、人の倫理がどう変わるか、ということまで含めた議論が行われています(わたしはこのパネルトークの編集にかかわりましたが、シンギュラリティ大学のNeil Jacobstein氏の未来に対する力強い楽観主義と、Yahoo! ResearchのElizabeth Churchill氏による鋭い批判、オックスフォード大のWilliam Dutton氏の現実主義等を含め、訳していてとてもワクワクするものでした)。

Thinking Spot: 人工知能学会の表紙について、会員として調べた/考えたこと

人間並みになった場合のことは考えていましたが、人間を越えた場合のことまでは想像していませんでした… 当該記事は未見ですが、機会があれば読んでみたいです。

また、同誌では毎号「人工知能とはなにか」についてガチの討論をやっているとのこと。

あと、レクチャーシリーズ「人工知能とは」は、人工知能の研究者を志す人にとって参考になるのではないかと思います(私が面白がっている)。第一線の人工知能研究者の方々が、毎号入れ替わり立ち代り、「人工知能とはなにか」という大テーマについて、自分の持論を述べてお互いに議論する。しかも、相手の意見に対して経緯を払いつつも、相手の意見を安易に肯定せず否定も辞さない、という、ガチの討論です。毎号、ものすごく刺激的で、触発的です(私見ですが、このシリーズ、学会誌に掲載されているショートショートSFより想像力に溢れていると思います)

Thinking Spot: 人工知能学会の表紙について、会員として調べた/考えたこと

そして、大澤さんは「人間の知性について自覚的な人々が、人の持つ差別意識の仕組みについて、無意識のままにしておくことはない、という方に私は賭けます」との力強い言葉で記事をしめくくっています。

森裕紀さんのお話

もう一つ、人工知能研究の中でも「人間の学習や発達をロボット工学の立場から研究」されている森裕紀さんからツイッターで言及があり、少しお話を聞かせていただきました。

森さんは人工知能学会の会員ではないのですが、人工知能学会誌に共著で解説論文を寄稿した経験があります。ニューラルネットワーク関係の業績が多い方で、現在僕の出身大学に所属されていることもあって、個人的にも面白い話を色々聞かせていただきました。*2

発端となった森さんのツイートはこれです。

森さんによると、日本ロボット学会ではロボットを道具としてのロボットに限定しているわけではないとのこと。実際、日本ロボット学会の学会誌では、分子ロボティクスの説明の際に、ロボットを以下のような定義を仮設しています。

「ロボット」の定義にもいろいろあるだろうが,ここでは,「センサ,アクチュエータ,プロセッサにより構成されたシステム」であり,「そのシステムの実体が環境と区別されていて,環境から情報を得,その情報に応じて何らかの判断をした結果,環境に対して働きかけるもの」としてみよう.

2010 Vol.28 No.10 | 学会誌|日本ロボット学会

これはどちらかというと「人工生命」の定義のサブセットといった感じですね。森さんの研究にも人間の胎児の神経系の自己組織化をシミュレーションするものがあります。*3

胎児の神経系のシミュレーションは工学的応用というよりは、前回の記事でも触れた「人間の知能の仕組みを解明する」系の研究として発表されていますが、森さんのホンネとしては「勝手に賢くなるシステムを作りたい」という動機が先にあって、その道程のワンステップとしての研究と位置付けているようです。

要するに、人間の脳が、胎児から始まって、子供、大人へと成長する過程をシミュレーションできれば、人間のような知能を持つロボットが作れるはず(それは計算機上の存在かもしれませんが)というわけです。

森さんの研究の究極目標は「人工意識」「人工自由意志」。そこまでいくと、そもそも自由意志とは何か、それを実現した場合にどんな倫理的な問題があるのか、というところまで考えなくてはならず、ロボット工学の射程を超えてしまっているようにも思います。

だからというわけでもない、とのことですが、森さんは最近は哲学者の方々とも議論しているそうです。ロボットの応用哲学という研究会でそういった学際的な議論をしているのだとか。

この研究会は2011年10月に立ち上げられた,ロボットに関する哲学的・倫理学的問題についての研究会です。 2013年4月から2015年3月まで、文部科学省科学研究費補助金(基盤研究C)を獲得して「工学的関心に基づくロボット倫理学の構築」という研究プロジェクトを行っています(代表者本田康二郎)。

ロボットの応用哲学

個人的にも「心の哲学」の分野について勉強されているそうです。このあたりは前出の大澤さんも同様のようですね。*4

以上、森さんご自身は「僕の意見は一般的じゃないですし、ロボットや人工知能の分野の研究者の意見を代表していません」と前置きしてはいますが、こういった方向で研究している人たちもいる、ということで紹介させていただきました。

学会誌なんてたいして影響ないでしょ? 学会員しか読まないし。

まず、直接的に一般人に影響(性差別の再生産)を与えるかというと、それは限定的でしょうね、とは思います。だから、元の記事では「研究者たち」への影響という話をしました。

影響が研究者に限定されるとしても、人工知能研究の奥行きが性差別的な視点の制約を受けるということは、人工知能の未来にとって決して望ましいものではありません。極端な話、性差別を暗黙の前提として設計された人工知能が社会インフラとして当たり前になることで「差別意識」なしに社会のアーキテクチャが差別を再生産することだってあり得ない話ではありません。*5

関連して、僕が言う「公共性」の範囲が広すぎないか? という疑問を目にしましたが、問題にしているのは、学会誌というメディアの公共性よりも、学会で研鑽される研究そのものの公共性を問題にしています。

次に、一般人に対する影響はないかというと、ないわけではない、というか、そもそも一般人にもアピールするためにああいう奇抜な試みをしているわけです。*6

結果論として、あるいは客観的予測として「影響ない」としても、やってる当事者がこの試みが話題になって一般人にも影響があることを期待している以上、どういうつもりでやってるんだ!? という批判には意味があります。今後のことだってありますし。

最後に、些細なことではありますが、メジャーな学会の学会誌って学会員以外の人も読みます。まず、その分野の研究室の本棚には大抵バックナンバーも揃えて置いてあるものですから、学会に所属してない学部生や院生も読んでます。また、大学や学部の図書館にも置いてありますから、その分野に興味のある他の分野の研究者や畑違いの学生にも読まれるものです。

まあ、学会誌の表紙に洗脳(?)されるほど影響を受けるのは、よほど熱心な人に限られるかもしれませんが、論文を片っ端から漁るよりは、その分野のトレンドを比較的平易な文章でうかがえるのが学会誌ですから、それなりに読まれるよ、ということです。

女性に家事が押し付けられているのを問題視するのは、家事という仕事を蔑視しているのではないか?

仕事の貴賎の問題ではありません。女性に生まれたということで、職業選択に偏った圧力がかかるのが「性的役割分業」の問題です。

逆もまたしかりで、魔法少女まどか☆マギカのまどかのお父さんのような専業主夫という仕事だって今の世の中では選びたくてもなかなか選べなくなっているわけです。*7これは社会から受ける「男性的であれ」という圧力の直接的な作用でもありますが、女性差別の反作用という面も大きいでしょう。

今回の批判の多くは「差別性に気付いている人が見て不愉快な思いをする」の方がメインだったと思うけど?

そうかもしれません。網羅的に、あるいは無作為抽出で意見を見ているわけではないので断定は避けますが。しかし、元の記事でそういう論点は「二次的な話」だと書きましたが、二次的な話が出てくるのは一次的な話、つまり性差別の再生産があってこそのことです。

差別の現場が見えてしまえば不愉快になって当然です。どのように見えたかという点では、僕とは異なる視点での批判も多くあったことでしょう。特に性的欲望が暗示されているという視点は、あり得る視点だとは思いますが、*8今回の件について言えば、僕はそこに重きを置くつもりはありませんし、そこに重きを置かなくても十分問題含みだったと思っています。

お掃除ロボットは女性を家事から解放するので、批判するより歓迎すべきではないか?

問いの前半部分については、そういう面は確かにあります。実際、いわゆる「女性の社会進出」は家電製品による家事労働の省力化が支えていた部分はあると思います。

しかし、家事労働、つまり女性がするべきとされる労働が省力化されたからといって、性的役割分業そのものから女性が解放されるわけではありません。性的役割分業が当然とされる世の中では、働く女性には家事と仕事の両立が求められるのです。

一方で、専業主婦に対しては、むしろ省力化した分を埋め合わせる形で「女性としての仕事」をより一層求められているのではないでしょうか。たとえば、育児によりコストをかける、家事のコストパフォーマンスをさらに高める(主にコストカットする方向で)、などという形で。

ですから、お掃除ロボットは歓迎されてしかるべきですが、そのことは、性的役割分業の再生産を批判することと全く矛盾しません。

「本を読んでいる」ことから主体性を持つロボットと解釈すべきではないか?

これは見る人の立ち位置の問題で、工学をやってる側の視点で見るとそうは解釈しづらい、ということです。一般人のロボットのイメージで見るなら別、というのは前回のエントリでも説明した通りです。

人工知能学会も最初に「掃除機が人工知能になっていることを表しています」と説明してしまっているので、工学の一分野として人工知能研究を見ている人からすると、本を読んでいるのは説明と矛盾しているようにも見えるし、整合的に解釈するなら、手にしているのは一般的な本ではなくてマニュアルあるいは命令書ではないか、とも解釈できるんですよね…

人工知能学会から公式見解が発表されましたが、納得できた?

年が明けてから人工知能学会の公式サイトで今回の騒動についての公式見解が公開されました。

「性的役割分業」という言葉は使っていませんが、同様の趣旨のステレオタイプで解釈される余地があったことについて「公共性の高い学術団体としての配慮が行き届かず、深く反省するところです」としています。

ただ、「不快な思いをされた方々、また人工知能学会を日頃から支援して頂いている関係者の方々に深くお詫び申し上げます」という形のお詫びは少しズレているかな、とも思います。誰もあの表紙を不快に思わなかったとしたら、そんな社会は性的役割分業に誰も疑問を持たない社会に違いないのですから、不快にさせたこと自体が問題なのではないのです。*9

また、公式見解では表紙のデザイナーによるデザインの意図が紹介されています。

「擬人化」という表現技法を用いて、日常生活に人工知能が擬人化され溶け込む場面を描いた。このロボットはほうきや本と互換性があり、いままで人間が育んできた文化を置き換えるのではなく、いまの文化や生活を大切にしながら、そこに溶け込んでいく技術であって欲しいという願いを表現している。

「人工知能」の表紙に対する意見や議論に関して | 人工知能学会 (The Japanese Society for Artificial Intelligence)

面白い観点ですし、ルンバで掃除できるような平坦な床が全く残ってない部屋に住んでいる身としては、この発想には「いいね!」したい気分です… その一方で、大切にしたい「いまの文化や生活」の中に性的役割分業のステレオタイプも無意識のうちに混ざり込んでしまったのではないか、とも思いました。

とはいえ、この激しい喧騒の渦中にあって表紙問題に関する議論を「人工知能を搭載したロボットが将来、日常生活で使われる際に、その外見はどうあるべきかというのは深い問題」として研究者にフィードバックしたい、という態度は立派だと思います。

海外でこの件が批判的に紹介されているようだけど…

BBC News の News from Elsewhere という海外メディアから話題を拾って紹介するブログで、今回の騒動が紹介されています。

経緯はともかくとして、人工知能学会の編集部の弁明が妙なことになっています。

Defending the choice of cover image, the head of the journal's editorial board said it was the overwhelming choice of society members from the 100 entries submitted.

(試訳: 学会誌の編集委員長は、この表紙を選択したことについて、この表紙は100件の応募作品の中から学会員の圧倒的な支持を得たものだ、と弁明した。)

BBC News - Japan: Artificial servant girl sparks sexism row

これじゃあ人工知能学会ヤバいよ! って話になっちゃうじゃないですか… 編集委員長、本当にこんな「弁明」をしたんですかね?

そもそも選出プロセスから言って「学会員の圧倒的な支持」などない、ということについては、冒頭で紹介した大澤さんのブログで説明されています。

数多くの意見の中には「表紙は一般投票でも、圧倒的一位で選ばれた」従って「人工知能学会一般の意見が表紙に代表されている」ということを前提とした意見が散見されます。表紙に肯定的にせよ、否定的にせよ、これは事実とは異なります。

(中略)

以上から、「表紙は人工知能学会の会員の大多数によって選ばれた」という見方だけは、訂正しておきたく思います。また、これは熟慮を求められる通常の選挙とは異なります。「会員のうち数%が、11/11-13の仕事の合間に、幅広い読者層にアピールできるデザインを目指して、たたき台となる表紙を選んだ」と捉えるのが、現状をより表していると思います。ここから、表紙の選定が「会員全員の意識を表していた」と導くのは、ミスリーディングだと思います。

Thinking Spot: 人工知能学会の表紙について、会員として調べた/考えたこと

BBCの記事のニュースソースは朝日新聞の英語版記事です。

確かに「圧倒的多数の支持」について代表の説明があるのですが、単なる選考プロセスの説明で、直接的には「弁明」というニュアンスはないような…

Yutaka Matsuo, a University of Tokyo associate professor who heads the editorial board for the journal, said the JSAI had posted an online call for cover illustrations. The work in question, drawn by a female illustrator, obtained by far the largest number of votes from JSAI members and nonmembers among the 100 entries submitted.

The illustration was also the top choice of the 30-member JSAI editorial board, which has three female members. It was second choice with the 20-member JSAI board of directors, which has one female member.

(試訳: この学会誌の編集委員長である松尾豊東京大学准教授は、人工知能学会はインターネットで表紙イラストを募集した、と語った。問題となっている作品は、女性のイラストレーターが描いたもので、100件の応募作品の中から、人工知能学会の会員と非会員から圧倒的多数の票を得た。

このイラストは、3人の女性を含む30人からなる人工知能学会の編集委員においても第一候補であった。1人の女性を含む20人からなる役員会においては第二候補であった。)

Robotics journal cover draws accusations of stereotyping women - AJW by The Asahi Shimbun

イラストレーターが女性で、委員に女性が何人いて、というあたりが弁明じみていると解釈できなくもないですが、この手の差別問題では組織構成員の多様性が問われるのは普通の事なので、単に問われて答えただけのようにも見えます。

このあたり、BBC の当該記事の性質から言っても、編集委員長に追加取材したわけではなく、単に朝日新聞の記事を拡大解釈(曲解?)したものかと思われます。

とはいえ、「圧倒的多数の支持」については元々誤解を与えるコメントになっていた可能性があります。この件については大澤さんも含め関係者が頑張ってくださるそうなので期待しましょう…

*1:ブログのプロフィールには osawa としか書いていませんが本人に了解を得たので実名で紹介します。

*2:話の中で学生時代に僕が散々迷惑をかけた先生の名前が出てきた時は超あせりましたが…

*3研究テーマと概要 - 構成的発達科学に基づく胎児・新生児シミュレーション

*4:たとえば大澤さんのブログには「クオリアに才能を投資するべきでないと考える理由」という記事があったりします。

*5:具体的にどんなのだ、と言われると困るけれど、理路としてはあり得る、ということ。まあ、あくまで極端な例です。

*6:学術誌の表紙に漫画・アニメ風の絵というのは、今となっては前例も少なくないので、さほど奇抜でもないですが。

*7:赤木智弘氏とか。彼は彼で別の理由で「選べない」のかもしれませんが…

*8サブカルチャーの中での「メイドロボ」の扱いを考えるとあり得なくはない、ということ。ただし、僕には、その手のイメージからは距離を取った作風の絵に見えます。

*9:もっとも、逆に、社会から一切の性的役割分業がなくなり、かつてそれがあったことも忘却された社会においても、あの表紙を誰も不快に思わないことでしょう。しかし、それは遠い未来の可能性の話でしかないし、果たしてそういった過去は忘却されてしまっていいのか、という問題もあるでしょう。