J. P. HoganのSF小説「未来の二つの顔(The Two Faces of Tomorrow)」を読んだのは30年ぐらい前だっただろうか。そこで描かれていた未来が、まったくの夢物語でもなくなってきているようにも感じる。読んだ当時は、Doug LenatのAMというシステムに興味を持って研究していた時期で、人工知能に人間を超える思考ができるようなるとは思えないレベルだったが、最近の機械学習技術の進歩を見ていると、まったくの空想ともいえないのかもしれない。
もちろん、実際にコンピュータシステムが意思をもって人間を征服しようとするなんてことはSFの世界だけの話だが、深層学習のようなブラックボックスな方法でミッションクリティカルなシステムを組むと、人間にとって理解不能な現象が発生して、対処に困ることは将来的にはあるかもしれない。
最近の若い人たちは流行に敏感で深層学習をやりたがるが、25年ぐらい前のニューラルネットワークブームが5年ぐらいで下火になったことを経験している身としては、深層学習の進展もフォローしながら、ルールベースやオントロジーのような原因と結果の間のつながりが説明可能（accountable）な人工知能技術も大事にしていくべきだろうと考えている。
