『AIに意識は生まれるか』という本の感想

『AIに意識は生まれるか』という本を読みました

自分は意識の研究をセキュリティ面からやりたいと思っています。
例えば、脳波からクレジットカードの情報を読むなどセキュリティ側からの提言がなされています。(例: https://www.usenix.org/conference/usenixsecurity12/technical-sessions/presentation/martinovic)

私は、脳をセキュリティに使うというか、意識をセキュリティ技術を使って解明したいと思っています。

そんな意識研究の大御所の金井先生が2023年に書かれた本を読みました。
正直、自分の能力が低すぎて、理解できない部分が多かったのですが、わからない今の自分の感覚を記録して、後から見たら面白いのじゃないかと思うので、わからないまま書きます。

はじめに

マリモに意識ってあるの！？って子供の頃疑問に思ったところが意識に興味を持った最初だということ。
私の感想: マリモに疑問持つって描写がなんとなくかわいいなあって思いました。

1章 世界はフィクションかもしれない

金井先生の子供〜大学学部時代の思い出の随想が描かれる。
ソシュールやらと高尚なお勉強から、クオリアに興味を持つ過程、クオリアという概念との出会いが描かれる。

２章 意識とクオリアの謎

意識のハードプロブレム、赤さとは何か、アクセス意識と現象意識、哲学的ゾンビ。といった意識の概念が語られる。
クオリアはフィクションで現実と微妙に違う、という思想も語られる。
クオリアはフィクションで、我々は騙されてるだけで、頑張れば、突破してフィクションの原理を解き明かせるはずだ！との意気込みが語られる。
実際、錯視などで、クオリアと物理現象は違うことの確認がなされる。

3章 意識を研究する

金井先生が学部〜大学院の頃の随想が描かれる。

4章 意識のありかを探せ

視覚の神経回路を辿れば、意識が生じる部分が特定できるはず、だからMRIとかで探る分野がNCC(neural correlates consciousness)という。
金井先生は、博士課程でNCC頑張ったとのこと。
NCC,NCB(行動と神経のつながり),NCSの分類が語られる。
NCCや視覚経路の特定の研究手法はかなり強力なことが説明される。
NCCの弱点は、発火細胞わかってもクオリアがなぜ生じるか不明なこと。

私の感想：クリックってDNAの人がNCCって意識研究をやっていたとは！

5章 クオリアが作り出すフィクション

金井先生が博士、ポストクやってたあたりの随想。
クオリアが見せる世界は、現実を微妙に修正したフィクションだ。
時間がキーだという天啓を得たらしい。
美術から得た着想で錯視を研究していたとのこと。
芸術家は物理的現実でなく、意識が思い浮かべる風景というフィクションを描いている。
・認識は脳の内部的な世界から考えるトップダウンと、見たものから影響を受けるボトムアップの方向性がある。←このnoteの著者には意味が理解できませんでした
クオリアには秩序や構造があるとのこと。

私の感想：トップダウンやボトムアップってHoTって理論のことなのか？と思いましたが、私には勉強不足でわからないです。芸術を使って研究するってのが面白いというか、そんなことができるのかと感動しました。時間がキーだという天啓って感じが研究者の生の感想で面白いと思いました。トップダウンやボトムアップは聞いたことある理屈ですが、どうやって確認されてるのか科学的背景が無いとパッとは理解ができないなあと感じました、勉強しなければ。

6章 内側から見た意識

金井先生のぽすどく生活の随想。
頭頂葉が意識に大事らしい、と怪しいと思ってたらしい。
NCCから意識へ興味が移り、UCLへ移動されたとのこと。
ネド・プロックって哲学者が、アクセス意識、現象意識ってのを提唱しているとのこと。
意識に上っても報告できない例として、スパーリングの実験という、12文字くらいをパッと見せられても覚えられないけど、見せられた後に、「上４つは？」と聞かれると答えられるという驚きの実験がある。とのこと。
・注意と意識の関係が、グローバルワークスペースからの説明されている。⇦このnoteの作者は理解できませんでした。
・意識を、外から見たアクセス意識と、内から見た現象意識があるが、見え方の違いなだけだとのこと。内部的な進化で作られた構造とのこと。AIで再現できるのではと金井先生は思ってるとのこと。しかし、上記の理論ではハードプロブレムは解けない、なぜクオリアが発生しているのかこれでは不明だ⇦このnoteの作者は理解できませんでした。金井先生の説明意図とは違う理解をしているかも。

私の感想：難しくて、この章はほとんどわからなかった。スパーリングの実験は確かに不思議だし、どう解釈すればいいのか勉強しないとダメだと思った。グローバルワークスペースも勉強不足で説明を理解できませんでした。ハードプロブレムがだから解けないんだっていう結論まで論旨を追うことができなかった。私の能力不足がやばい。

7章 意識の統合理論

金井先生が、2012年からサセックス大学准教授をされていた頃の随想。
予測符号化は自由エネルギー原理の応用とのこと。
IIT (意識の統合理論)で衝撃を受けたとのこと。
IITはver4まであり、verごとにかなり違うから誤解されているとのこと。
IITはハードプロブレムを消失させているとのこと。
小脳は脳のニューロンの3/4があるが、統合されていないから、意識はなさそうとのこと。
・フォトダイオードが並んでいるのと、それらがつながっているのとの違いは、情報量が多くても並んでいるだけなら意識のΦ（IITで提案されている意識の量）はゼロとのこと。分割された絵は分割前と違う、それがΦだ。⇦このnoteの作者は理解できませんでした。金井先生の説明意図とは違う理解をしているかも。
IITは汎心論的。だから、キリスト文化と相性悪いかもしれないとのこと。
・IITは、意識があることから出発しているため、ハードプロブレムが逆転。つまり、まず、意識がある。すると、逆ハードプロブレムとして「世界は本当にあるの？」という感じになる。⇦このnoteの作者は理解できませんでした。金井先生の説明意図とは違う理解をしているかも。
IIT公理2: 意識は情報ってのがあり、この情報ってのは、情報学で言うシャノンの情報量の情報じゃない、因果関係が必須、相関じゃダメ。
・公理4: 意識は排他的ってのはスケールの問題とのこと。でも反論もあるとのこと。⇦このnoteの作者は理解できませんでした。金井先生の説明意図とは違う理解をしているかも。
・公理1: 意識は構造。意識は１つで、外から見ると統合された情報、内から見ると意識。外から見たらコンセプト（IITの専門用語）の配置とのこと。コンセプトはクオリアの素である。⇦このnoteの作者は理解できませんでした。金井先生の説明意図とは違う理解をしているかも。
・赤はなぜ青じゃないか、世界はVRだ。⇦？
・意識と再帰は大事な関係があるとのこと。⇦？
IITから意識と中国語の部屋を語る論文がある。中国語の部屋は、外から見て振る舞い同じでも、意識はない。
・Φの存在は計算量が多くて、「事実上」反証可能じゃない、難しい。AIでは計算量が多すぎて難しい。⇦？

私の感想：難しくて、この章はほとんどわからなかった。勉強不足か、私の頭が悪いのか。IITは難しいのか。IITの情報って、普通に、シャノンの情報量のことがIITの情報だと思ってたので、今後の勉強に非常にありがたい情報が載っていてありがたかった。計算量の話は、実際の論文でどの程度の計算量なのか今後自分でも勉強して確認したいですね。

8章 意識を作る

視覚と個人差の研究をされていたとのこと。
倫理は脳の構造から影響されるみたいな研究もされていたとのこと。
データが足りないと、再現性の危機に陥るが、でもfMRI一発数万円で1000人にかかると数千万円で研究費がなくなってしまうというお金の問題がある。だから起業したいと思ったとのこと。
2015、アメリカで起業しようと頑張ったが、日本での起業にした。
アラヤって会社を起業して、脳画像解析が看板だが、2016から人工意識ってのも看板にしているとのこと。

私の感想：起業のモチベーションは理解できましたが、起業準備や起業始めてから仕事の受注までのドキドキとかもう少し知りたかった。

9章 意識を持つAI

AIに意識作って、人間と接続してクオリアを得られれば、確認できると思われているとのこと。
LLMにはフィードバックないからΦないとのこと。
でも、人と違うクオリアはありうるとのこと。
・AIのイージープロブレムってのがあるとのこと。AIに機能出せば、クオリアも宿るとのこと。反実仮想が意識に大事とのこと。AIの意識はグローバルワークスペースで説明できるかもと思われてるとのこと。クオリア構造があれば、38度と40度のクオリアから39度のクオリアが出る。AIの意識確認にはIITしか確認できなさそうとのこと。⇦このnoteの作者は理解できませんでした。金井先生の説明意図とは違う理解をしているかも。
IITの提唱者は、最近はアニマットってAI作って、で意識あるかAIで研究しているとのこと。
人工意識の説明は一般の人に説明するのがそもそも難しいという困難を金井先生は抱えているので、この本で学んでくれるといいな

私の感想：金井先生のフューチャーワークにつながる大事なことが書かれていると思うのですが、難しくて理解できなかったです。

10章 人工意識とクオリアの意味

AIアライメント大事とのこと。
クオリア主義、クオリアを喜ばせるように生きるのがいいと金井先生は思ってるとのこと。
クオリアはフィクションだが、現実よりリアルなフィクション。

私の感想：クオリアはフィクションだが、現実よりリアルなフィクション。ってのは面白い考え方だと思った。

対談 with 土屋先生

私の感想：確かyoutubeに対談がこの内容であがってた。土屋先生との絡みは本文でも度々ライバルみたいな感じで書かれていたが、本当にライバルみたいな会話の仕方してるんだなあとそういう志が近い人といれるっていいなあと思った。

本全体の感想

意識の研究者がどういうことを考えているコミュニティなのか、門外漢でわからなかったので、金井先生の随想や歴史を含めた内容で大変ありがたい本でした。
難しくて理解できず、勉強しなきゃいけないこと大量にありましたので、意識研究の深さにビビりました（笑）