藤野の散文-仲秋、紅葉、立冬、向寒 このページをアンテナに追加 RSSフィード

2018-02-16 知性の本質を考えざる。

[]いよいよ人とは。 いよいよ人とは。を含むブックマーク いよいよ人とは。のブックマークコメント

AIの未来について、汎用AIと言われる「どこにでも適用できる人間のようなAI」はまだできていないらしい。
けど多分「それ」はできて行くと思う。

どんな分野でも「勘」とか「センス」というものが因数分解され、「この幾つかの選択方法ですね」と分かってしまっては是非もない。

人間はさらに「突拍子もないこと」で創造をしようとしたりする。
車を自動で走らせるとか、音声でスピーカーと会話するとか。
けれど「そういうの」も偶然性を考えることができれば、今の人間よりももっと突飛な面白いものができてくるかもしれない。

「意外性」とか「異種間結合」を意図的にやられては、あまり人間に分はないのではないだろうか。

AIに人の気持ちや欲望が分かるだろうか。
それは今の人の声を聞けば簡単に分析できるだろう。
「機械に感情はわからない」というのは聞いていない人の言い訳になると思う。

それはともかく。

自分たちは、多分史上初めて「知性とは何か」を「それを脅かす存在の前で」考える好機にいる。
漠然とした「知性とは、暗黙知形式知があって…」とかいうのではない。

明確に「自分の(本当に)知性と言えるものは何か?」ということに答えを見つけなければ、「多少ランダムに動くコンピューター」と差はないのだろうか。

よく反論する人は「機械には感情がない」「ビジョンやポリシーは作れない」とか「機械には情熱はない」などという。
でも感情もビジョンも情熱も、いろんな範囲で数値化することはできる。

事実、自分たちは「ある範囲の中」で怒ったり、喜んだり、集中したりしている。
それが「勝手気まま」なのが人間の知性なのだとすると、それすら数値化は可能だろう。

「破産するまで突き進む」とか「全くリスクを取らない」というのは全て数字の範囲の問題に過ぎないと思う。

そして詰まるところ「自分とは何か」という哲学に戻る。
そんな機会を今一番身近で与えてくれるのがコンピューター技術なのだろう。

山中伸弥さんが羽生善治永世七冠に聞いた「AIと将棋の未来」
ノーベル賞科学者・山中伸弥氏と史上最強棋士・羽生善治氏が「10年後、100年後の世界」について語る「予言の書」が発売された。それが『人間の未来 AIの未来』だ。本書の中から「AIと将棋の未来」について書かれたパートを特別公開する。

なぜ将棋のソフトが急激に強くなっているのか

 人工知能(AI)の「AlphaGo」(アルファ碁)が世界トップクラスの囲碁棋士イ・セドルさん(韓国)に四勝一敗で圧勝したことが話題になりましたね。

 はい、2016年3月のことでした。その年の2月、私がNHKの番組[NHKスペシャル「天使か悪魔か 羽生善治 人工知能を探る」2016年5月放送]で人工知能を取材したとき、グーグルの傘下にあるイギリスのディープマインド社で、アルファ碁を開発したデミス・ハサビスさんにお会いしてお話を伺いました。囲碁は少なくとも十年は人間に追いつけないと言われていたので、大きな挑戦と思えました。おそらくイ・セドルさん自身も「負けるはずがない」と思っていたんではないでしょうか。

 それくらい、人工知能の強さは予想を超えていた。

 そうですね。将棋ソフトも想像をはるかに超えるスピードで強くなっています。2017年4月、5月の電王戦では、将棋ソフト「PONANZA」(ポナンザ)が佐藤天彦名人に二戦二勝しました。

 ここ数年、将棋のソフトが急激に強くなっているのは何か理由があるんですか。

 「ギットハブ」(GitHub)というサイトがあるんです。ギットハブはソフト開発プロジェクトのための共有ウェブサービスです。将棋ソフトはほとんどがギットハブに載っており、オープンソースなので、誰でも自由にそれを使って分析や研究ができるようになっています。

アクセスして「このプログラムのここはおかしいよ」とか「ここは直したほうがいいよ」とチェックできます。それも最新版をどんどん載せてくれます。すると、開発者はそれを見て「自分も将棋のプログラムを作ってみよう」と思う。棋士もアマ、プロを問わず「それを使って分析してみよう」となる。それで飛躍的にレベルが上がっているんです。

 そこはチェスや囲碁のソフトとは違うところですね。

 それが可能だったのは、実は「将棋ソフトを売る」マーケットが十年くらい前になくなったからなんです。強すぎて誰も買わなくなりました。マーケットがないので利害関係がない。だったら、いっそのことオープンソースにして、みんなで自由にどんどん進化させようという流れになったんです。

年に一度の将棋ソフトの大きな大会が終わると、上位ソフトのいくつかがウェブ上に公開されて、翌年にはそれをベースにした新しいソフトが出てきます。その年の頂上にいたソフトが翌年には五合目くらいになっている、ということが繰り返されているので、本当に驚異的なスピードで進化しています。

 将棋の勝負ではなく、将棋ソフトの勝負をみんなでしている(笑)。

 ええ。実は私自身、ソフトの世界で将棋はチェスから十年、十五年は遅れていると思っていたんです。チェスは世界での競技人口も多いし、論文の質と量もまさっていましたから。でも今はどういう状況かと言うと、将棋の世界で強いソフトは全部無料です。しかも、いくつもあるソフトを比較して使える共通のプラットフォームも開発されています。さらに使い方がわからない人のために、マニュアルを書いてくれている人もいます。どこまで親切なんだ、と思います。

一方でチェスの世界は、ソフトから何から全部揃えようとすると、けっこうお金がかかります。だから、チェスのソフトはそれほど多くの人が使っているわけではありません。そのため、ここ五年ほどで将棋のソフトが一気にチェスを追い越して、一番手軽で使いやすくなったんだと思います。

 そういうソフトを開発している人たちのモチベーションは、おそらく収益じゃないんですよね。

 収益ではありません。第一、それを仕事ではやっていませんから。ただ私は、こういうことがあるんじゃないかなと思っているんです。今は結局、ビッグデータと言われるデータの力とか、あるいはハードウエアの計算リソースをどれくらい持っているかが、全体の性能や機能のかなりの部分を占めてしまっています。

すると、プログラマーからすれば、自分の腕の見せどころがないというか(笑)、相当比重が下がってしまいます。その意味で、将棋ソフトの場合は、そこでやりがいを感じることができるようなんです。

 そうなってくると、どちらかと言うと、もう趣味の世界ですね。

 そうですね。それに、いろんなジャンルの人たちがいろいろアイデアを共有して進化しているところが、開発者たちは楽しいのではないかなと見ています。今まで画期的なプログラムを作った人は、もともと化学が専門とか法学が専門とかまったく違う世界にいるんです。そこで得た知識経験値を置き換えてソフトを開発していく。そういう人たちが幅広く入ってきているところが大きいと思っています。

だから、将棋のソフトはデータとハードの力ではなくて、ソフトの力をブラッシュアップして強くしてきた側面があります。そういう意味では、「ガラパゴス的な進化」を遂げてきたと言っていいと思っています。

ページ: 2
「棋士という仕事はなくなりませんか」

棋士という職業はなくなるか

 AIの関係者に聞いた話ですが、「今後、AIが発達してもなくならない職業は何ですか?」とよく聞かれるそうです。その質問に対しては「それは今まだ存在していない職業です」と答えるということでした。なるほどな、と思いました。

もちろん、今ある仕事で残っていくものはあると思いますが、これから新たにできる職業もあるわけです。百年前の人が今の職業を見ると「これは何なのか?」とわからないものも確かにいっぱいあるでしょうね。

 棋士というお仕事はなくなりそうにないですね。

 いや、どうなんでしょうか。AIは量産できますし、将棋ソフトは最近、本当に強くなっていますから。

 でも人間の競争は人間しかできないんじゃないですか。コンピュータが二台で将棋をやっていても、見ているほうはつまらない。「機械A」が「機械B」に勝ったと言われても(笑)。そうなると、もう別の競技ですね。

 今すでにAI同士が一日二十四時間、対局し続けている「Floodgate」(フラッドゲート)というサイトがあります。そこから新しい棋譜がどんどん生まれています。もし将棋ファンの人たちが「AI同士の対戦のほうが人間同士の対戦よりも面白いね」と思うようになれば、棋士という職業はなくなってしまうかもしれません。そういう危機感はあります。

逆に言うと、今の棋士には、人間同士の対局を魅力的なものにして、AI対局以上の価値をつくり出し続けていけるかが問われているんだと思います。

一方で、AIが進化していったときに、人間の発想をより豊かにさせる、人間が今まで以上の創造性を発揮できるようになる可能性も十分あるのかな、とも思っています。AIと同じようにとは言えなくても、人間の能力も確実に上がっているということは言えるんじゃないでしょうか。

このスピードで行くと、僕たちが生きている間に、今とはまったく違う技術がまたできますよ。だって携帯電話スマホに置き換わって、自宅でも電車の中でも子供からお年寄りまでみんな使うようになるなんて、十年前には想像もしなかったです。

だから、今から十年後、いったいどうなっているのか、僕には想像がつかないですね。でもだからと言って、人間が機械に支配されることにはきっとなっていないと思います。

 ある特定の目的に限定した専門人工知能は順調に開発が進み、活用されていくと思います。でも一つの分野で学習した知能を他の分野で応用できる、人間の知性のような「汎用性」を持った人工知能ができるのは、まだまだ先でしょうね。

暴走するAI

ページ: 3

暴走するAI

 そういう意味では、今後、私たち人間は「知能」とか「知性」をもう一度定義しなおさなければならなくなるかもしれません。

人類の歴史は「高い知能を持っているのは人間だけ」という前提でここまで来ました。でも将来、AIのIQが三千とか一万になると言われています。すると、その前提が崩れるかもしれません。

「この分野でAIは人間以上のことができる」とか「これは人間にはできても、AIにはできないだろう」といった議論をしているときに、「では人間が持つ『高い知能』の知能とは、いったい何なんだろう?」とあらためて考えざるを得なくなると思います。

でも「知能とは何なのか」と問われると、結局わからない、という結論にたどりついてしまいます。人間には「実現はできるんだけれど説明できない」とか、「実際に思っていることや感じていることでも、すべてを言葉で表現することはできない」といった分野があまりにも多く残されているように思います。

 まさにブラックボックスですね。

 ただ、AIの進化によって人間の知能と対比するものが出てきたことになりますから、人間の知能の姿をあぶり出す可能性はある気がします。これまでは比較する対象がなかったので、「知能とは何か」については答えが保留されていましたが、AIという比較対象を得たことで、「知能とはこういうものだったのか」と人間の知能の本質にアプローチできる可能性が出てきました。

「人間の知能の正体を探究していけば、人間の知能と同じようなAIを作ることができるはずだ」と考えて研究している人たちも、かなりいます。

AIと人間が協力し合う世界では、どういう可能性が生まれるんでしょうか。

 そこに私は関心があります。たとえば、アメリカでAIを活用した防犯パトロールの事例があります。全米でも犯罪発生率が高い街のことです。人員も限られているため、犯罪の発生地域や頻度などさまざまなデータを基に、AIに「今日、どこにパトロールに行けばいいか」を決めてもらったそうです。

ベテラン警官が「なぜ犯罪なんか絶対に起こりそうにない閑静な住宅街に行かなきゃいけないんだ」と言いつつ、AIの指示通りにパトロールに行くと、なぜか怪しい人がいて、まさに犯行に及ぼうと……。結果的に犯罪発生率が劇的に低下したそうです。

SF映画の『マイノリティ・リポート』を思い出しました。AIが「殺人を犯す」と予知した人間を事前に逮捕するようになっているという、ある意味とんでもない近未来社会を描いています。

 でも、それも荒唐無稽と笑っていられませんね。

 そうなんです。現在のAIは民間企業が開発しているので、ある時期まで基本的に開発プランは公開されず、あるとき、「こんなものができました」と世の中に発表される形ですね。

そういう状況では、AIの開発について、社会が新しい規準や新しい倫理をつくるといっても、どうしても現実のほうに先を越されて後手に回ってしまいます。そして、その規準や倫理を誰が、どこで、どういう形で決めるのか、その枠組みすらできていない段階では、極めて漠然とした話になるのでは、とも思います。

データがある世界では、AIは人間の経験値を超える結果を生み出す可能性があります。ただ、それが絶対かと言われると、絶対ではないわけです。そのとき、先ほども言った「ブラックボックス問題」、結果はうまく行っているけれど、そのプロセスが誰にも見えない状況を人間の側が受け入れられるかどうかが問われます。

理屈としては理解できなくなって、AIが出した結果なり結論なりを信じるか信じないか、ただそれだけの話になってしまう可能性もあります。でも人間は人間なりに考えたり、発想したりすることを捨ててはいけない、やめてはいけないと思います。