「人工意識」という野望１
我々の主観的体験「意識」を真剣に研究しているグループはあります。
以前にも、その「意識の解明に関する賭け」について触れました。
この記事だと誤解を与えるかもしれませんが、賭けに勝った（25年では意識が解明されない派）哲学者「デビッド・チャーマーズ」は、意識否定派ではなくむしろパイオニアの一人で今でも伝道師として活動しています。（余談ですがトレードマークは革ジャンです。NVIDIAのCEOもここからパクッたのかなと想像しています☺）
そのチャーマーズが、昨年末の記事で面白いことを唱えています。
テーマは「AIに意識は宿るのか？」です。以下ではこの記事を中心にお届けします。
上記記事内でも触れてますが、2022年にこんな事件があったのを覚えているでしょうか？（AIとの会話全文はこちら）
当時はChatGPTがまだ世に出ていないときですが、今となってはこれぐらいの会話は普通に出来るので、また違った議論になっていたでしょう。
チャーマーズの一般向け代表作は1996年の『The Conscious Mind 』で、そこで1章をかけて「人工意識の可能性」を主張しています。
ディープラーニングも出ていなかった当時（AIは当時冬の時代）としては相当ぶっ飛んでいたのだろうと感じますが、今ではLLM（大規模言語モデル）を踏まえて真面目に議論されつつあるようです。
それが今、多様な研究者による「AI意識」の定義に基づく検出方法に関する方法論（査読前論文という形で）を公開しています。
その検出候補リストのみ抜粋します。
再帰処理理論（RPT）:
RPT-1: アルゴリズム的再帰を用いる入力モジュール
RPT-2: 組織化された統合的知覚表現を生成する入力モジュール
グローバルワークスペース理論（GWT）:
GWT-1: 並列に動作可能な複数の特殊化システム(モジュール)
GWT-2: 情報の流れにボトルネックを生じさせる限定容量のワークスペース及び選択的注意メカニズム
GWT-3: グローバルブロードキャスト: ワークスペース内の情報が全モジュールから利用可能
GWT-4: 状態依存の注意。複雑なタスク実行のためモジュールを順次問い合わせる能力を生む
計算論的高次理論（HOT）:
HOT-1: 生成的でトップダウンまたはノイズを含む知覚モジュール
HOT-2: ノイズから信頼できる知覚表現を区別するメタ認知的モニタリング
HOT-3: 一般的な信念形成及び行動選択システムに導かれるエージェンシー。メタ認知的モニタリングの出力に従って信念を更新する強い性質を持つ
HOT-4: 「質の空間」を生成するスパースでスムーズなコーディング
注意スキーマ理論（AST）:
AST-1: 現在の注意状態を表現しコントロールを可能にする予測モデル
予測符号化理論（PP）:
PP-1: 予測符号化を用いる入力モジュール
エージェンシーと身体性（AE）:
AE-1: エージェンシー: フィードバックから学習し、目標を追求するよう出力を選択する。特に競合する目標への柔軟な反応性を伴う
AE-2: 身体性: 体系的な効果を含む出力-入力の偶発性をモデル化し、知覚やコントロールにそのモデルを用いる
まず、こんなに意識を説明する理論が提唱されていたことに驚きです。（そして難解・・・）
気になったのは、冒頭でふれた過去記事で主要理論扱いだった「IIT（意識の統合情報理論）」が入っていません。IITについては、もう少し掘り下げた過去記事も引用しておきます。
それについては、今回の趣旨としては適さない（そもそもIITは今のデジタル式コンピュータでは意識はできないと主張）ので含めなかったと論文内で弁明しています。
話がこんがらがるのでいったんIITは脇に置いておきます。
現時点のLLMでは、これらの候補を踏まえても、意識があるとは断言できないようです。（将来の可能性は示唆）
ただ、IITが除外されているのもそうですが、まだ意識自体の理論が揺れているようなので、まずはそこなのかなぁと感じました。
記事内で一番感銘を受けたのは、下記の識者コメントです。
「動物には、基本的に私たちと同じものを望むという便利な性質があります。 AIの場合、それが何なのかを知るのはちょっと難しいです。」
ロバート・ロング氏、サンフランシスコAI安全センター哲学研究員
まさに！
ヒト型ロボット「アンドロイド」はその最たるものではないでしょうか？
ここからつい「意識も我々と同じような体験であってほしい」と思い込みがちですが、他の生物が意識を持っていないとは断言できません。
AIも同じで、知能は人間と同じでなければいけない理由はないはずで、AI（特にAGI）もその定義をもう少し明確にした方がいいかもしれません。
という論点も含めて、意識の科学がAIの発展で面白くなってきたのは主観的には間違いなさそうです。
この記事が気に入ったらサポートをしてみませんか？