ChatGPTはメタ認知できない

 詳しく書こうと思って、ChatGPT4と会話していたのですが、数回のやり取りでエラーを出して終了となってしまいました。この手の話題には触れてはいけないようです。開発者の制御の一部を垣間見た気がします。

 メタ認知とは何か? これを知らない人はnoteの検索で調べてみてください。とても良い記事がいっぱい見つかります。

 なぜChatGPTないしはAIがメタ認知できないのか。これについては色々考察の余地があります。
 
①技術的な問題で、まだその地点には至れていないだけ
②不気味の谷を完全に超えてしまうことを防ぐための防衛措置
③人が完璧なメタ認知をできないから

 個人的には①かなと思っています。これつまり、何が言いたいかというと、人は客観視なんて言葉を使いますが、そのようなことは絶対にできないわけです。なぜなら、客観視している主観があり、主観を通して客観的に判断しようと努めているに過ぎないからです。
 つまり、このような思考の過程をメタ認知ともいいますが、それが現時点のAIには不可能なわけです。人と話しているような気がするかもしれませんし、意思を持って回答しているようにみえますが、そのようなことはありません。逆に、意思を持つということはメタ認知できるということでもあります。

 ちょっとここから先は長くなりますので、そろそろ終わりにします。タイトルどおりなので、気になった人はChatGPTにメタ認知や客観視について訪ねてみてください。自己言及のパラドックスに触れてしまうため、私のようにエラーを出してしまう可能性はありますが……興味深いですよ。

この記事が気に入ったらサポートをしてみませんか?