意識研究についてのまとめ資料公開_2023.8.18.

意識研究についてのまとめスライド追加分資料公開します。

今回追加分のリリースはChapter 11、15です。これまで、Chapter 5では「クオリア」、Chapter 6では「ハードプロブレム」、Chapter 7では「意識モデル」、さらにChapter 8で「欲求 / 合目的性」、Chapter 10で「自己 / メタ認知」、等 について説明してきました。ここから、Chapter 11で「意味理解、中国語の部屋、中国脳、時間・場所」、Chapter 15で「意識の実感」 について説明していきます(Chapter 0に目次を示しています)。今回、汎用AIの14章の公開は有りませんが、LLM(ChatGPT)について、11、15章の中でも最近の計算論的な視点からある程度触れることができたと思っています。
補足:他のChapterも特にイージープロブレム側の実感に関連する箇所について修正を加えています(薄緑着色が修正箇所)。

Chapter 11_意味理解、中国語の部屋、中国脳、時間・場所  ここでは、人や他の生物、LLMまでにとっての意味理解がどのようなものか、そして後の章に続く意識の実感の概念にとってどのようなものか示していきます。また、意味論において重要な分布意味論から、LLM(ChatGPT)にとっての記号接地、またなぜ赤の赤さはLLMには感知(認識・理解)できないのか、等示していきます。(中国語の部屋やinternetの意識にも触れていきます)。

Chapter 15_意識の実感  こちらは、意識理論を示す場合にハードプロブレムとともに重要なイージープロブレム側を説明する際の今後の鍵となると考える、意識の実感とは何かを、「感じている自分という感覚」を用いて示していきます。さらに「コウモリであるとはどのようなことか」の疑問に直接答え、この部分が意識のイージープロブレム側に含まれ、ハードプロブレムとは独立した問題であることを示していきます。

今回でイージープロブレム側の説明を充実させるシリーズがほぼ終了しますが、これで、イージープロブレムの高次側には特に『溶け始めたハードプロブレム』(6章参照)が強く寄与していることと、さらにミニマムな意識を考えると、意識はハードプロブレム側、イージープロブレム側の片方だけでも独立に成立しうる可能性が有ることをご理解いただければと思います。

その他の修正については、特に序盤のChapterで、実感とそれにつなかる意味理解を考えるところにつながるイージープロブレムの観点がこれまで十分に整理できていなかったことも有り、かなり多く修正し、合計3ページをの追加も行いました。これで、ハードプロブレム、イージープロブレムのバランスが取れた内容になってきたかと思います。

各章できるだけ20ページ前後に簡潔に整理しています。そしてリリース済みの資料も、今後も改暦をつけて可能な限り更新していきます。また、残りの資料も可能な限りリリースしていくつもりです。極力急ぎたいのですが、現実世界の忙しさから、少し時間がかかってしまうかもしれません。

補足:トライアルとしてコメントとユニークアイディアの色分けを試行していましたが今回から中止しました。これまで僕自身が異端な研究者であることのアピールも有りトライしていましたが、そのフェーズはもう終えてよいかなという思いです。あと、今後、引用を明確化する章(18章)が近づいてきているのと、実際には、古の考えであっても現在の計算論的意識研究の視点からはユニークであったりして、ユニークとして示す箇所が多くなりずぎつつ有ったのでやめることにしました。今回見た目はすっきりしすぎな感じもしますが、後々可読性を上げる工夫も考えたいと思います。

Chapter 15_意識の実感

 

Chapter 11_意味理解 / 中国語の部屋 / 中国脳 / 時間・場所

 

Chapter 10_自己 / メタ認知

 

Chapter 8_欲求 / 合目的性

 

Chapter 7_意識モデル / CBB

 

Chapter 6_ハードプロブレム / イージープロブレム / AIと脳の接続

 

Chapter 5_クオリア / ユニットクオリア / CBB

 

Chapter 4_意識・無意識 / 単細胞生物・石の意識 / 意識の条件

 

Chapter 3_新しい意識の考え方

 

Chapter 1_意識とは

 

Chapter 0_意識の研究シリーズ目次

意識研究についてのまとめ資料公開_2022.10.10.

意識研究についてのまとめスライド追加分資料公開します。

今回追加分のリリースはChapter 8、10です。Chapter 3「新しい意識の考え方」において、今後の資料全体の方向性を示した後、Chapter 4では「無意識」、Chapter 5では「クオリア」、Chapter 6では「ハードプロブレム」、Chapter 7では「意識モデル」等を説明してきました。ここからChapter 8で「欲求 / 合目的性」、Chapter 10で「自己 / メタ認知」 について説明していきます。今回は、意図的に生体とAI(人工意識)の両方の例に触れることで理解が深まる様トライしています。
補足:Chapter 5、6、7も修正しています(薄緑着色が修正箇所)。
7章の意識モデルのところでは「意識の機能」の1ページを追加するなどの変更も行っています。

Chapter 8_欲求 / 合目的性  ここではクオリア・感情 と欲求の関係、ハードプロブレムとの関係について示します。また欲求の合目的性については(基本的には否定的なスタンスですが)脳内化学物質の関与も含め示していきます。また、好奇心他、様々な欲求が意識のイージープロブレム側面の「機能」を豊かにする付加的な材料となっていることを示し、欲求が意識のシステムの中でどのように位置付けられるか示していきます。

Chapter 10_自己 / メタ認知  5、7章等で簡単に示した自己について身体所有感を中心に詳しく示すものです。自己が意識のイージープロブレム側面の一機能であることを、意識の機能と意味理解の定義に触れながら示していきます。こちらも、(欲求とともに)自己が意識システムの中でイージープロブレム側面であり意識の必須条件ではないことを示し、意識のハードプロブレムからは距離を置いた関係であることを示していきます。

今回、8、10章ともイージープロブレム領域を中心とした内容となっていて、裏を返すと、6章で示したハードプロブレムがいかに狭い範囲のものかということを補足するものともなっています。意識研究においてはハードプロブレムに注目されることが多いですが、イージープロブレム側にも非常に重要な側面が有ることをご理解いただければと思います。

その他の修正については、7章の意識モデルのところで「意識の機能」の1ページを追加した他、5章の自己に言及したp.14の修正、6章のハードプロブレムの説明での「電撃を閃光と感じる類の変換」の言及等を行っています。

各章できるだけ20ページ以内に整理していくつもりだったのですが、8章については途中修正が入り26ページとなりました。今後の章は基本的に20ページ前後になるように進める予定です。リリース済みの資料も、今後改暦をつけて可能な限り更新していきます。また、残りの資料も可能な限りリリースしていくつもりです。基本的にはtwitterやこのブログに紹介済みの内容が多いので、極力急ぎたいのですが、現実世界の忙しさから、少し時間がかかってしまうかもしれません。
補足:トライアルとしてコメントとユニークアイディアの色分けを試行しています。

Chapter 0_意識の研究シリーズ目次

 

Chapter 1_意識とは

 

Chapter 3_新しい意識の考え方

 

Chapter 4_意識・無意識 / 単細胞生物・石の意識 / 意識の条件

 

Chapter 5_クオリア / ユニットクオリア / CBB

 

Chapter 6_ハードプロブレム / イージープロブレム / AIと脳の接続

 

Chapter 7_意識モデル / CBB

 

Chapter 8_欲求 / 合目的性

 

Chapter 10_自己 / メタ認知

意識研究についてのまとめ資料公開_2021.10.18.

意識研究についてのまとめスライド追加分資料公開します。

今回追加分のリリースはChapter 6、7です。Chapter 3_新しい意識の考え方 において、今後の資料全体の方向性を示した後、Chapter 4では「クオリア」、Chapter 5では「無意識」等を説明してきました。ここからChapter 6で「ハードプロブレム」、Chapter 7で「CBB(CONSCIOUSNESS BUILDING BLOCK concept)」…意識モデル について説明していきます。それぞれ、意識を説明するために非常に重要な章で、今後も重要な章が続いていきます。
補足:Chapter 0、1、3、4、5も微修正しています(薄緑着色が修正箇所)。
章順序の一部変更、欲求の章の追加、4、5章の英語版の際のフィードバックの反映等。

Chapter 6_ハードプロブレム / イージープロブレム / AIと脳の接続  基本的にはこのエッセイをもとにしていて、ハードプロブレムとは、ハードプロブレムの分類、一部溶け始めている可能性、イージープロブレム、AIと脳の接続(BMI)の意味、等について書いていますが、追加として、錯視様の変換の考え方、脳内化学物質の寄与、AIのハードプロブレム、CBBへの繋がり、BMIfMRIによる観測、記憶のBMI、等について新規に言及しています。

Chapter 7_意識モデル / CBB  記号入力をベースとした、意識モデル:CBB(CONSCIOUSNESS BUILDING BLOCK concept)について説明していきます。ここでモデルの対象としているのは基本的にイージープロブレム領域で、再現する意識は、意識のビルディング・ブロック上の機能的側面の、意味理解、感情(イージープロブレム領域)、自己、メタ認知創発、(幻想の)自由意志、注意等です。

図らずも、意識モデル / CBBでは、意識の機能(イージープロブレム領域 ≒ a-意識)について説明することになり、ハードプロブレムの章では、意識の機能とは何の関係も無い領域(p-意識)について多く説明することになりました。意識研究について初めて聞く人にも、既に取り組んでいる人にも、一つの切り口として理解していただければと思います。

その他の修正については、微修正程度のものが多いですが、Twitterで予告した通り、欲求 / 合目的性 についての章の新設追加(予告)、それからChapter 5_クオリア / ユニットクオリア / CBB の中で、脳内化学物質の感情への寄与を補足しています。詳しくは各スライド資料を見ていただければと思います。

各章できるだけ20ページ以内に整理していくつもりだったのですが、6、7章については(も?)少々超えてしまっています。リリース済みの資料も、今後改暦をつけて可能な限り更新していきます。また、残りの資料も可能な限りリリースしていくつもりです。基本的にはtwitterやこのブログに紹介済みの内容が多いので、極力急ぎたいのですが、現実世界の忙しさから、少し時間がかかってしまうかもしれません。
補足:トライアルとしてコメントとユニークアイディアの色分けを試行しています。

Chapter 0_意識の研究シリーズ目次

 

Chapter 1_意識とは

 

Chapter 3_新しい意識の考え方

 

Chapter 4_意識・無意識 / 単細胞生物・石の意識 / 意識の条件

 

Chapter 5_クオリア / ユニットクオリア / CBB

 

Chapter 6_ハードプロブレム / イージープロブレム / AIと脳の接続

 

Chapter 7_意識モデル / CBB

意識研究についてのまとめ資料公開_2020.10.05.

意識研究についてのまとめスライド追加分資料公開します。

追加分のリリースはChapter 4、5です。Chapter 3_新しい意識の考え方 において、今後の資料全体の方向性を示しましたが、ここから具体的な内容に入っていきます。Chapter 3までは極端にとがった仮説は極力抑え、あまり心乱れるようなことは書かないように気を付けたつもりです(そう見えないかもしれませんが…この分野は何を書いてもそれは違うと言う人が多いと思うので。)
補足:Chapter 0、1、3も微修正しています(薄緑着色が修正箇所)。

Chapter 4_意識・無意識 / 単細胞生物・石の意識 / 意識の条件 3章までに無意識を説明していない理由は、このシリーズでは無意識は意識に含まれるという考えにもとづくからですが…多くの人が挙げる無意識の代表例が、意識とわずかな条件の差であることを説明していきます。
Chapter 5_クオリア / ユニットクオリア / CBB クオリアの説明ではIITを強く支持しつつも、ユニットクオリア、複合クオリアというIITに無い考えを用い、IITになじみのない人でも理解できるようtryしてみました。例えば志向性はそう見えてしまう一端に過ぎません。

基本的には、今のところの全17章を、各章できるだけ20ページ以内に整理していくつもりです。リリース済みの資料も、今後改暦をつけて可能な限り更新していきます。また、残りの資料も可能な限りリリースしていくつもりです。基本的にはtwitterやこのブログに紹介済みの内容が多いので、極力急ぎたいのですが、現実世界の忙しさから、少し時間がかかってしまうかもしれません。
補足:トライアルとしてコメントとユニークアイディアの色分けを試行しています。

Chapter 0_意識の研究シリーズ目次

 

Chapter 1_意識とは

 

Chapter 3_新しい意識の考え方

 

Chapter 4_意識・無意識 / 単細胞生物・石の意識 / 意識の条件

 

Chapter 5_クオリア / ユニットクオリア / CBB

意識研究についてのまとめ資料公開

意識研究についてのまとめ資料を公開します。

今回のリリースはChapter 0、1、3です。特にChapter 3_新しい意識の考え方 については、今後の資料全体の方向性を示すものです。

基本的には、今のところの全17章を、各章できるだけ20ページ以内に整理していくつもりです。リリース済みの資料も、今後改暦をつけて可能な限り更新していきます。また、残りの資料も可能な限りリリースしていくつもりです。基本的にはtwitterやこのブログに紹介済みの内容が多いので、極力急ぎたいのですが、現実世界の忙しさから、少し時間がかかってしまうかもしれません。

この3章までは極端にとがった仮説は極力抑え、あまり心乱れるようなことは書かないように気を付けたつもりです(この分野は何を書いてもそれは違うと言う人が多いと思うので)。そう見えないかもしれませんが。
補足:トライアルとしてコメントとユニークアイディアの色分けを試行しています。

Chapter 0_意識の研究シリーズ目次

 

Chapter 1_意識とは

 

Chapter 3_新しい意識の考え方

意識の機械への接続とハードプロブレム

最近、渡辺正峰氏(『脳の意識 機械の意識』著者)がスタートアップ(MinD in a Device)を始められたという記事が有りました。非常に有意義なプロジェクトだと思います。ここでは、『機械と脳の接続』から『人間の意識を機械にアップロード』の話まで話題になっていますが、特に『機械と脳の接続』に注目し2つ考えたことが有ったのでメモしておきます。


■1 ひとつめ:機械から直接脳に信号をinputする時、その結果、意識(のようなもの)を機械側の主観で感知したとしても、その感じたものが脳側の処理で生じたものとどのように峻別すれば良いかが課題と考えられること

機械と脳の片半球を接続して意識を感じた時、「機械側で意識が処理されたのではなく脳側で処理されたのでは?」という反論に対しどう再反論できるでしょうか?例えば機械側の視覚情報を脳側の視覚野にinputする場合は当然そう思われるでしょう。(逆に人の分離脳の場合では(現時点実証されていませんが)、完全に分離していれば反対側の処理は感知できないと思われるので、同じ視覚野に機械側の情報が入っている時、意識自体が人側で処理されたのではと感じるのはむしろ自然だと考えられます。)

情報をどこに入力しそれをどう観測するかが鍵だと思います。4つのケースを書いてみます。
脳梁への入力…信号が反対側の脳の対称部位を発火させるのか?脳側の処理「の一部」を使用して、機械側の意識を確認する。
脳梁への入力…脳梁を通る信号が、高次のエピソーディックな情報を持っているのか?(あまりそうは考えていませんが)
(①ではない方法で特別の部位が反対側の信号を「それ」と理解できる?)
脳梁を通らない他の回りこみ入力の場合…で①と同様に反対側の脳の対称部位を発火させる?
④その他

※①は脳梁入力と書きましたが(視覚の場合は)視覚野に繋がる神経細胞入力を意味します。理由:他の個体へ繋げてon-off情報のみにすると、感圧/明暗等の区別がなくなるため…脳側で明確に視覚入力と判断するために他ではなく視覚野への入力が必要。(一方で機械側では情報はセンサとひも付きになっていて感圧/明暗等の区別は(結果的に)明確になっています。)言い換えると、脳梁などの広範囲に入力した場合、脳側ではどのセンサ由来の情報か辿れないため、感圧なのか音圧なのか全部なのか峻別できません(広範囲にスタンガンをくらったような感じでしょうか?)。

機械側の情報をうまく分離するためには、一般的にはfMRIなどで機械側の情報の流れが脳側の一般的なV1から始まる経路の一部をskipする等の特殊なふるまいを見付ける必要が有りそうです。

※ところが、別案が有り、(このプロジェクトの『機械と脳の接続』の目的が脳側で機械側がちゃんと意識を処理できていることの実感であることから…脳片半球の視覚野を生体のまま残しておく必然性は薄いと考えると…)両半球とも機械にすれば最初の峻別の話はクリアしそうです。そうなると課題は、機械の半球と脳半球の接続ではなく、対象の感覚野を機械に置き換えて(両半球に有る場合は両方とも)その感覚の意識を脳側(この場合は生体の視覚野を除いた脳)で処理できるかどうかということになりそうです。

もとに戻りますが、機械から脳半球の視覚野に入力してしまうと、「意識」の処理が機械と並行して脳半球側でも処理されるため峻別が難しくなります。そして両視覚野を機械化する対策が考えられますがこれもかなり高いハードルです。そして、うすうす気づくと思いますが、これはハードプロブレムが絡んでいます。

 

■2 ふたつめ:ハードプロブレム(HP)について(■1の記述で、(一個体内では)脳内(または機械内)で視覚情報が、感圧や明暗等の情報と明確に区別されている…というあたりに関連して)。

『機械と脳の接続』で、input信号に何を使うか?を考える時、意識の実装を考慮しなければなりません。機械側で、一つの色(赤ならば赤)を赤であると理論的に処理する方法は現時点無いというのが一般的な認識だと思います。(ハードプロブレム…3色の錐体細胞に相当するセンサを持つことで結果的に色を感知するようになるのかもしれませんが、現時点理論的にこれを説明する方法は無いと思います…結果的には、赤を感じている脳をfMRI等で見れば発火している神経細胞を特定できることで、赤以外を感じている状態からは区別できると思います…がその感覚の内容自体を理論的に誤りなくイメージできるわけではありません。)ハードプロブレムについては、簡単に言えば、虹の色の順番を理論的に説明する方法は無いということだと思っています。

今日時点でのWikipediaなどの一般的に見つかる資料では、意識の物質による説明が困難なことをハードプロブレムと呼ぶように記載されていますが、(わかるひとはわかると思いますが)近年の研究では、情報の関係性から多くが説明できるとする考え方も有り、この方向からもう少し分析的に検証する必要が有ると考えています。

ここから今回僕が考えたことを書いていきます。現状で虹の色を実装しようとするとハードプロブレムのため壁が有りますが、一方で、感圧/音圧/モノトーンの点描で示された形状、等、段階的な強度情報だけで形示すことができる場合はどうでしょうか?色などを考える場合とは異なっているように見えます。ここが鍵かもしれません。

一方で「嗅覚・味覚」などは、先の視覚の「色」と同様、信号の内容(赤ならば赤…と同様)を処理するのは難しいと思います。本来は、機械に色を意識させて、それを脳で確認できれば(色というのは意識の中でも最も話題になりやすく、逆に言えば色を意識できないと意識できるとは言えないという人さえ居そうですから…)最も良いのですが現時点難しそうです。これを避けて、「濃淡・形状」や「感圧・音圧」を対象とする選択は検討に値するでしょうか?併行して第2ステップで色などは検討可能と思います。

ここから本題…これまで何度かハードプロブレム(の特に一部)については「溶ける」兆しが有ることをtwitterで書いてきました… 感圧や、視覚の内のモノクロの明度などは、センサが強度を感知した際にそれが(感圧/明暗などの)ラベルがついていれば溶けると書いてきました。少し整理しておきます。

整理すると、ハードプロブレムが溶けると分類されるのは以下のB群です。
A. 視覚の内『色』、嗅覚、味覚(強度以外のいわゆる質感に関するもの)
B. 視覚の内『明度、大きさ、形状』、聴覚の内『強度、リズム』、感圧
C. 聴覚の内『高低』(一次の関係で示せそうですがこれもA群に近い質感か?)

少し補足が必要で
本来は全て感覚質(クオリア)なので依然ハードですが、一部(B群)については『一個体の中だけであれば…物理?的にセンサとひも付きになっているため』他の感覚質から区別でき、かつその感覚の内容自体を誤りなくイメージできるように感じるということです。例を挙げます。

例えば感圧(B群):意識体が(独立した)センサの位置、[センシング対象物理現象]等を理解している前提(一個体の中では、センサが物理?的に接続されていることは、その意識体はセンサ位置、対象物理現象を知っている(これも、区別、及び誤りないイメージが可能)ことを意味する)で、音圧や他のB群の感覚から区別できるという考え。…例えば圧力が有ったか無かっただけであれば…体の一部に圧や加速度を感じるというプリミティブな知覚であれば…その入力に対応する感覚質を誤りなく感じる…ということ。

広範囲にスタンガンをくらったような感じ』ではなく、明暗の場合は発光体が存在し自分との間には遮蔽物が無いとことがイメージでき、感圧の場合は、右肩の感圧センサが反応したらタップされたことをイメージでき、(宇宙空間での体験をイメージすると)さらに首部の曲げセンサが反応したら胴体部に加速度が生じた反応で頭部が置き去りにされたことまでイメージできる。

情報がセンサとひも付きになっていれば[それ以外に考えられないから]そう感じる。…また、微生物等で、感圧や音圧(や強い光も?)が感知される時、初期には逃げの一択だった(どの入力であっても逃げていれば良かった)と思いますが、センサ高度化等により進化すると、感圧と音圧、光で異なる対応が可能になった(その方が生存確率が上がった)という考えです。

また、このB群の強弱や大小の感覚は、例えばセンサが右上、右下、左上、左下に有れば、視野角を4分割して明暗を感知することが可能で、それを細密化することでモノクロのドット絵をそれと認識することも可能と考えられます。また、このドット絵の感覚は同様のプロセスで視覚以外に触覚(感圧)でも認識可能と考えられ、もっと言えば舌表面の対応する脳の受容野の刺激により、舌表面にドット絵を感じることも可能と考えられます。

一方で『色』などのA群:一つの色(赤など)を赤と理論的に処理する方法は現時点見つかっていません(ハードプロブレム)。…3色の錐体細胞に相当するセンサで何の色を感知したか、までは情報が有り、結果的に色を感知しているのかもしれませんが。『虹の色の順番を理論的に説明する方法が無い』ということ。

このように感覚質は大きく3つに分けられて、B群についてはほぼ溶けてきているというのが一つの観点だと思います。ハードプロブレムを考える時、プリティHPのようなその場しのぎのような思い付きからはその後の進展は望めませんが、一つ一つ分析的に考える上述のような方法は一つの解に繋がると思います。

 

今回の件は、渡辺さんの機械と脳の接続プロジェクトのアウトリーチを見てその観点から考察したものです。意識の断片を機械から脳に入力しようとすると、機械側でいったん感覚質まで完成している前提になります(*1)。しかしA群の場合『色』を機械側で『感じた』と言わせるのは困難極まりないでしょう。(周波数はわかりますが機械の中に『真っ赤な』色が広がっているわけではありません。)一方でB群(感圧/明暗等)を『そう感じた』と言わせるのは証明不要なほど自明に近く一見溶けたように感じるのだと思います。(B群であっても[一個体の中だけ]が前提ですが。)

ただこの信号をネットに流す場合は信号にどのセンサ由来かタグ付けして、出力先が生体の場合は適切な感覚野への出力が必要で、出力先が機械の場合は、そのタグを適切に読み込んでデコードする必要があります。

ここまで。ミニマム/Lower Orderの意識をも意識と考えることが前提ですが((*1)もそうです。IITなどが出てくる話…詳しくは僕のtwitterなどを参照ください。)…このふたつめの考察は、機械への接続を考える際にA群の困難さを避けるアイディアがきっかけでしたが、ハードプロブレムの考察に繋がりました。渡辺さんの研究自体非常に先駆的で課題は多いと思いますが、このような観点の提供自体が、研究の前進に貢献すると考えます。多謝。

このふたつめの考察は…意識の機械への実装まで考えなくて良かった時代(過去の時代)でも頭のなかで思い付くのは可能なので先行研究が有るかもしれません。ただ、ここまで考えると、A群(色など)についてもあと一歩のような気もするんですよね。目の研究との連携とかがまたきっかけになるかも。

疾病などで、虹の色の順番が変わるorずれるというのも無さそうだし(たぶん)。また、可視光下で暮らす生物は(3種以上の錐体細胞が有れば)人と同様な虹が見えているの(紫外、赤外はのぞく)のかも…と依然として思う…だとしたら何?…異星人も含めそうなのか? …疑問は続く。

※補足:色覚異常ではある帯域が判別困難→灰色に知覚等で様々な見え方(赤と緑が判別困難になる等)になると思いますが虹の色の順番入替り等は無さそうです。ただ疾病例は僕は詳しい知見は無いので、それを捜すこともヒントになるかもしれません…3色目の錐体細胞の感度が限界まで低い時に違う色が見えるか等。

 

■1は意識のメカニズムについての問題ではなく、機械と脳を接続するという方法を考える場合の気になる点。
■2も同様に接続する方法(いったん「色」などの問題を避けるか?)についてですが、
こちらは意識そのものの問題(ハードプロブレムをどう考えるか)でもあります。
僕自身は機械と脳の接続を考えるうえで■2についての考察が少し進んだのかなと思っています。今後もこれも含めアウトリーチしていきたいと思います。

※以上、4/6〜4/27頃のtwitterへのpostをもとに加筆・修正。

keyword: 人工知能

意識モデルについて…視点を考えるためのメモ

枠内、2019.1.23 追記

意識モデルについて

意識研究において、ある種の仮想や、創発性、感情、self、などを織り込むことで、意識が再現できると考える例をこれまで様々な場面で見てきました。僕はこれらは全て正しい認識である可能性が有ると考えています。なぜなら、『それらの高次の意識の前に、既に、単位クオリアやそれらのミニマムな統合の時点でミニマムの意識が有る』という定義で見れば、これらの高次意識は有って当然と僕は考えているからです。

つまり、何らかのミニマムの意識が有りうると考えることができれば、それよりも高次の、ある種の仮想や、創発性、感情、self、などは、それらの必要性を意識の定義と決めた時点で、当然のように意識として扱うことができるということになります。(つまり、どこを定義の必要条件としても成立しうる議論ということ。)

逆に言うと、何らかのミニマムの意識が有りうるということを考えることさえできれば、それを定義とすることで、あらゆる高次の意識は当然のように意識有りと考えることができ、ある種の仮想や、創発性、感情、self、など(フィードバックも)のうちどれが真に意識に必要な要素かという議論を避けることもできると考えています。 

枠内、2019.2.2 追記

僕の意識モデルに関する考え方がわかりにくいと考える人も多いと思います。例えばモデルが自律性を持つことがイメージしにくいのではないかと思います。(モデルが意識
を持ちうることは直観的に理解できる人はいるかもしれませんが)

例えば、自律性の話をする場合、ある程度の前提条件が必要だと思いますが…
①人の場合、生後はゼロでそこから獲得してゆくか?という問いが有ります。一方で
②人は初期から自律性の動機づけを持っているという考え方も有ります(僕はこの考え)。(自己顕示などに代表される本能的な動機付けとして)

もちろん後天的なものも有るはずで、身近なもので言えば、食事のために箸を持つのも自律性の発露と考えてもよいと思っています(経験からの学習)。もしかして①の考えを研究している人は違和感を持つかもしれません。確かに最初の生物を考えるとそんな本能のようなものを持っているはずはありません。

しかし、最初の生物はたまたま本能のようなものを獲得した…つまり、最初の生物…「消滅してしまわないような性格(本能)をたまたま獲得したものだけが生物として生き残った」と考えることもできると思います。②の考えは僕の意識仮説と整合性の有るものです(具体的な視点から書き直したもの)。

補足:意識モデルについて…光合成シミュレーションが実際には酸素を生じないことを、意識モデル/意識シミュレーションが意識を生じない(だろう)理由として書く人がいますが、そういう人にもできればそうではないケースを異なる視点で考えてほしいなと思います。例えば足し算シミュレーションは足し算を再現できる。初めから計算機で再現できるものをシミュレーションしているのですから。(人工意識を考える時点で「モデルが意識を持つ」ことを想定していることになるのですが…)

枠内、2019.2.9 追記

自律性(高次編)
自律性の具体例を考える時、餌を見たら近づくとか、火を見たら逃げるとか、は実は「それをしない」ことの方が難しいくらいで、多くの生物は勝手にそれを実行してしまう…そのくらい自律性(ここでは低次…合目的な行動など)は自然なことに見えます。

一方で、自分で課題を見つけることや、計画を作る(明日のことを考える…までくると超超高次…も)などは、その意識体が持つ様々な情報の中で優先順位を付ける(幻想の自由意志…別のところで書いています…情関連報の中で結びつきの強いものが結果的に選択される)ことで外部からその自律性を観測できると思います。

例えば課題を見つけるためには、①その意識体が抱える問題点を理解し、②いくつかの対応方法の中から最も適切と思える方法を選択し、さらに③具体的な対処手段を(様々な情報の中から)選択する必要が有ると思います。通常は①②③の内の③を課題と捉え、実際に外部に働きかけることになります。

(例えば「計画を作ること」は①②で選択肢に入ることも有りますが、③で課題として知覚(認識)されることが多いと思います)これらは高次の意識が関連する高次の自律性と考えています。(例えば、選択(≒判断)は、創発や、自己他者の高次の区別もかかわっていると考えています。)

人工意識の自律性の話題の時に、なぜ「餌に近づく」ような自律性といえるかどうかわからないものを取り上げるかというと…「実装」にはメカニズムが必要で、自律性のドライブとなる動機づけが必要です(仮説)。一般には高次どころか低次の自律性も謎の扱いなので、まず低次の話題から始めています。

低次の意識が支配的な自律性と、高次の意識が支配的な自律性は。僕は、同じ法則で繋がっていると考えています。意識モデルへの自律性の構築・実装を考える場合、現在目標としているのは低次・高次のどちらなのか?(おそらく高次の自律性)を理解することが非常に重要だと感じています。その上で、(ベースとなるはずの)低次の自律性について、議論できれば非常に有意義なものになると考えています。

ここで書いた、自律性に関する僕の考え方は、僕の意識仮説に沿ったものです。また、IITの基本的な考え方から大きくは乖離していないと考えています。今回書いた低次側の自律性について、IITの考えから見ると違和感が有ると思う方も有るかもしれません。(またミニマムな意識の話題になってしまいますが)IITについてはミニマム側(低次側)へ拡大した議論が必要と感じています。現在のIITは、情報要素の統合(関連性)という稀有で有力な主張が有りますが、ただし意識の条件としてフィードバックなどの制約があります。(おそらく高次の意識に注目した場合の制約。)

一方で、実際に青い光やある周波数の音をそれ(クオリア)と感知することは、低次の意識でも可能と考えられないでしょうか?そしてその際に、感情や思い出、自己他者など(合目的性もそうだと思います)の高次の情報要素と結びつける場合にはじめて、様々な高次の意識が動員されてくると考えています。

現在公開中の意識のミニマムデモモデルは、言語入力を対象としたものです。一方で、物理可動モデル(ロボット)を用いて接触などの非言語入力を対象としたものも有ると思います。

言語入力を対象としたモデルは、Siriやアレクサなどいわゆるアシスタント・サービスが有りますが、これらは現時点意識が有るとはされていません。ではどのようなものであれば意識が有ると言えるのでしょうか?この証明は非常に難しく、構成論や圏論に頼って検討する必要が有ります。

作り手側の視点で具体的にどのように考えるか?というと…

  1. 返答するだけではダメで、意味を理解して欲しい。
  2. 痛みやその他の感覚を持っていてほしい。
  3. 感情が無いといけない。
  4. 自己(self)を認識して欲しい。
  5. メタ認知できてほしい。
  6. 仮想ができてほしい。
  7. 創発性は必要。
  8. (幻想の)自由意志が必要
  9. 時間感覚を持っていてほしい。
  10. 明日のことが考えられる。←2019.02.9 追記

思いつくまま挙げてみましたが、実際、僕は上記は意識の高次的な側面と考えていて、低次の意識:クオリア…意識体がどんなクオリアを感じているかは他人は知ることができないので、そうなると高次側である上記を実装することが重要になります。(意識モデルと理解してもらいたいので。)

1. 意味理解では、ミニマムの意味理解を考えると、一見トートロジーに見えるようなものでも最小限の意味理解は有るという考え方もできるのではないかと考えています。ノイマン型コンピュータで各情報要素を全て関連づけいくと、リソースを使いきって危ない可能性もありますが、現在のスパコンレベルのものであれば、範囲を限定すれば一定程度の理解度を備えることができるかもしれません。ここで言いたいのはこのモデルはミニマムな意味理解を備えることができるだろうということです。

 2. and 3. 痛みなどの感覚や感情について、僕はpepperの感情理論を評価していると以前ツイートしています。また添付と別の2018.8.17のツイートで感情が身体性を伴ってスパイラルに増幅するような考え方を示しています。さらに、痛みなどについては、クオリアの捉え方も含めて添付のようなツイートで示すように考えています。モデルが言語入力のみしかできない場合、痛みなどのクオリアの再現は困難で、一方で、物理的な様々なセンサー(身体性)を持つロボットは(クオリアの中身を覗き見ることはできないですが)クオリアを持つことはできると考えています。感情については言語入力モデルでも、身体性の増幅を伴わない部分については再現できると考えています。

4. selfについては、基本的に物理的身体を持つことがその発生の条件となると考えています。原始的な自己の発生には通常は身体性(自己が属する連続した物理領域)が必要ですが…コンピュータ上に自己を生じさせるために、飛び道具的に、全ての記憶の中で自己が属するものにタグ付けして強引に原始的な自己を生じさせることもできないことではないと考えています。モデル上では、上記を考慮して実装を考えていきたいと思います。

5. 以降は後半に続きます。(内容ももう少しわかりやすく書き直したいです。)