doiの連絡帳

2018-07-17

『AIは猫を「知っている」のか?』 ではあなたは猫を「知っている」のか?

00:44

引用部はno titleより


それは結局、どこまで行っても「量」の世界ですよね。しかし今では、「計算能力の爆発的な向上」というクオンティティ上の変化が、まるで「質」、クオリティの問題に踏み込んでいるかのように言われている。実際は計算量が増えているだけなのに、それがまるで人間の質的思考に代わるようなものをコンピュータが帯び始めたかのような幻想を引き起こしている。

これを主張するためには、「人間の思考が、量の規模により質的変化をもたらしたものではない」という大前提が必要だが、著者らはどう考えるのか。猿の思考、猫の思考、クジラの思考、ネズミの思考。生命であればミトコンドリアであっても計算機の「思考」と本質的な差があると、著者らは主張しているように読めるが(本記事末尾など)、その主張に合理的な論拠があるようには読み取れなかった。

続きを読む

2018-07-16

AIは人間を超えるか

21:49

no title

AIは水を理解していない、というのと同程度に人間だって水を理解していないだろう。「知ってるつもり -- 無知の科学」という本を先日丸山先生に勧められて読んでみたが、そこでも「理解している」ということのあやふやさと、「自分はこれを理解している」という『勘違い』によって人間が社会生活を営めている、みたいなことが書かれていた。

一方、計算機の進歩がこのまま進めば、遠い未来か近い未来かはともかく、人間よりも汎用知能として優れたものになりえないと考えることはむずかしい(もしかしたら量子メモリみたいな現在実現していない素子を必要とするかもしれないが)。ここで、例えば、人間にはクオリアがあるが計算機にはそれがないから計算機には知能は宿らない、と考えるのは傲慢というものだろう。

ただ、どこまで進歩しても所詮ソフトウェア(コピー可能)なので、カーツワイルの言うような超人間だの人間のソフトウェア化だのいう話は馬鹿げていると思う。例えば、swarmingのような発想で、単体としては汎用性が高い一方限界も低く、それでも全体としては超知能として動作する、みたいなものが個人的には趣味に合うが、もしかしたらそれはヒト個人が知能として理解できる形式ではないのかもしれないとも。

ふと思ったのでメモ。

2018-04-09

ふと今年になって記事を書いてないな。

23:00

誰も見ちゃいないのわかってるけど、3月のIOT/IA/SITE研究会でしゃべった内容でも貼っておくか。

https://drive.google.com/open?id=14L99LArEdS7n_5N3H4bGxlUaiX59-Osm

IOT研究会での発表。128ノードGPUサーバの立ち上げの体験談みたいな話。GPUたくさんあるといろいろはかどりますが、裏方は裏方で大変です。

https://drive.google.com/open?id=1dMJByrgHykeI6K0esZhCdUPu9DkW80kB

SITE研究会での発表。みなさんAIに関する議論をたくさんしていますが、AIってソフトウェアだということを忘れていませんか? という話。

ただ、このスライド、作成途中でPCがロックしてしまい(bitlockerがlockoutしたんだけど原因不明)、そのままgoogle driveにbackupしてあったものを出してるだけなので、ところどころ微妙です。まあいいけど。

発表時は他の方のPCとか、しっぽ借りてiPadとか使ってのりきった。その節はありがとうございました m(_)m > まつもとりーさん、すりー先生

2017-12-30

2017年まとめ

00:51

総括

子供が5ヶ月〜17ヶ月の期間なので、それだけ変化が激しい時期でもあります。子供の変化に対応していくだけでせいいっぱいでした。その上後半になるにつれ仕事もばたばたしてしまい。最近は「お仕事があるのは人生の喜び!」と前職で培った社畜力と高度雑用人材(サラリーマン)としての雑用力を遺憾ながら如何なく発揮しております。

続きを読む

2017-11-17

「AI」のいくつかの側面

12:27

そのうちちゃんと書きたいこと。

AIネットワークなんちゃら、を代表するような、AIを論じてる人達のAI論に混乱を感じることが多々存在する。彼らがAIに対して理解している側面には以下の3つの側面があるのではないか(仮説)。以下、論旨をクリアにするため、あえて*1ソフトウェアという用語を使う。

1. ソフトウェアが「学習可能である」側面

2. ソフトウェアが「統計的動作である」側面

3. ソフトウェアが「相互に接続されている」側面

1については、学習可能なソフトウェアと学習しないソフトウェアとが存在しうる。例えば深層学習を用いた自動運転にしても、一般には学習済みモデルを展開するだけで、路上での出来事を学習することはないだろう*2。一方、パーソナルサポートエージェントは、ユーザの好みを学習できないといけない。学習する、ということ自体はamazonのレコメンデーションエンジンでもやっているので、その延長線上にあると思えば理解しやすいだろう。

2については、ソフトウェアの挙動が非線形で予測が難しいという点と直結する。一般ソフトウェア*3入力Xに対して確定的に出力Yが得られるものと信じられている。そして、そこに至るステップは全て追跡可能だと信じられている。ただし、深層学習だろうと何だろうとソフトウェアであることはかわらず、複雑になれば追跡が困難になるのは古典的なソフトウェアといえど同じだ。一体何人のWindowsユーザがWindowsカーネルの挙動を予測可能だろうか? 突然CPUを全部使ってしまったり、Blue Screenで止まったりする挙動があったとして、Windowsカーネルは人間が作った古典的ソフトウェアだからこれらは完璧に予測可能である、と信じているソフトウェア技術者は一人もいないだろう。

3については「AIネットワーク」なる概念固有のものなのだが、AI相互通信をすることで相互強化を行うという話らしい*4。しかし、現時点で、通信相手を完全に自律的に発見して通信を行うプログラムや、それを作る方法は知られていない*5。むしろ相互接続されたソフトウェアシステムという意味では、AIとみなせるか否かは問題の発現に関係ないのではないか。有名な事例ではFlash Crashと呼ばれる自動トレードにともなう株式市場の瞬間的な騰落などが存在し、こういった相互関係の予測が困難である、という意味において現実的な問題である。

土井は、「AI(という特性を備えるソフトウェア)は全く脅威にあたらない」という立場に立つつもりはない。検討が必要な脅威は確かに存在する。だが、国内で声のおおきい人々の雑な議論にはそろそろうんざりしている。

*1ソフトウェアでない「AI」については論点にないとして

*2:学習には重みの更新という高負荷処理が必要であるため -- もしかしたら充電中などにログからヒヤリハットだけ学習する、とかはできるかもしれない。

*3宇宙線によるメモリ化けなどの特殊な場合を除いて

*4:正直よくわかっていない

*5:いわゆるP2Pネットワークがそれにあたる、という意見もあるかもしれないが、P2Pネットワークは一定のルールに従って構造をトラバースしているだけであり、ルールやAPIの発見の観点からは完全に人間が設計した範囲であり、この文脈においては自律的とはいえない。