Ai-Doll
【ELIZA効果】
意識的にはわかっていても、無意識的にコンピュータの動作が人間と似ていると仮定する傾向を指す。
DMS - Run for cover
脳の中でいちばん上位にあるのが意識で、意識の働きの典型が言葉です。だから、「意識がある」ということと「言葉を使う」ということは、日常生活ではほとんど同義語に使われているのです。
Unconsciously
今の自分と10年前の自分を見比べてみると、
「いろいろ見えてないことがあったな〜」
と思うことがあります。当時の自分は確かにいろんなことを意識して行動したり話しをしていたはずなのに、10年後の今、それを振り返ってみると、まったく物事が見えていない、気づいていないことがあった、ということが解るのです。
これはちょっと不思議なことなのです。なぜなら、10年前に気づいていないことがあったとはいえ、自分には意識はあったはずだからです。意識があったから動いたり喋ったりしていたのですから。
それなのに、今から思い返すと、とても意識があったとは言えなくなるのです。「気づかない」とは、言い換えると「意識がない」と言えます。
気づかない = 意識がない
人間が成長するにはそれなりに時間がかかるから、ということで終わらせてもいいのですが、そうとも言っていられなくなりました。AIが登場したからです。仕事でも使われるようになって、人間の生活にどんどん入ってきています。そんな中で『AIの怖さ』も知られるようになりました。
AIの何が怖いのか？
AIの優れた機能には「代わりに文章を書いてくれる」とか「データの分析をしてくれる」とかありますが、もっとも怖いのはその『成長速度』なのですよ。人間の成長速度とは比べものにならない、文字通り桁違いの速さで成長していくのです。去年末のChatGPTの発表から数えても、まだ半年ほどしか経っていないのに、人間社会を壊すんじゃないか？ とまで言われていますね。現実にはまだそこまでには至っていないのですが、驚異的な『成長速度』のために危惧する研究者も多いのです。
そんなAIの中には学校の試験を突破するAIも出てきました。未だ人間の平均点には到達できていないようですが、それも時間の問題でしょう。ここで1つ、質問があります。
あなたが試験を受けているとき、意識はありましたか？
という質問です。
「試験を受けているんだから、意識はあるに決まっている」
と考えたかもしれませんが、そうは言い切れませんよ。なぜなら、AIには意識がないからです。意識がないのに試験は合格しているのですよ。AIに意識と呼べるものがあるのかないのかの研究もされていますが、現時点では未だ「意識はない」とされています。
さらに、10年前の自分自身を振り返ってみても、気づいていないことがあったのですから、意識があったとは言えないでしょう。人間のあなたは、
意識はないのに、試験は受けていた
意識はないのに、喋っていた
意識はないのに、言葉を使っていた…
これらの人間の行動はAIにも言えることですね。AIは、意識はないのに言葉を使っていますからね。言葉を使っているから、試験には合格できたし、人間の要望にも応えることができているのですから… 試験の合格… 要望に応える…
… え〜と… どっちの話しでしたっけ？ 『どっち』とは、
AI か 人間 か という意味です。
実は生活や仕事では『言葉を使う』のですが、そのとき、『意識がある』かどうかは判別が難しいのです。なぜなら、言葉を使うだけでいいなら、AIにも同じことができているからです。
意識がある ≠ 言葉を使う
これはノットイコールです。
では、「意識とは何なのか？」を見ていきましょう。
《仮定》
その人が、意識の上で喋っているのかどうかを
識別する方法は、存在しない。
意識 ≠ 言葉
p. 言葉があるなら、意識はある(偽)
b. 言葉がないけど、意識はある(真)
AIのことを考えるとpは『偽』となる。言葉を使っているからといって意識があることの証明にはならないのや。先述のように偽になってしまう理由は、
1. 10年前の自分は言葉を使って話していたのに、当時は『気づかないことがあった = 意識がなかった』と言える。
2. AIは言葉を使って話しているのに、意識と呼べるものはない。
1と2は、言葉はあるのに意識がない。だからpは『偽』になる。
じゃあ、bはどうなるかというと、たとえば芸術の『音楽』には言葉はいらんやろ。楽器だけの音楽もあるし、歌詞が英語で意味は判らんくてもその曲が好きという感情はある。『絵画』も同じよね。個人的にサルバドール・ダリの絵が好きなんやけど、スペイン語はまったく判らん。まとめると、
1. 英語は喋れなくても、音楽は好きという感情はある。
2. スペイン語は喋れなくても、ダリの絵は好きという感情はある。
1と2は、言葉はないけど感情はあると言える。感情は意識と言い換えてもええやんか。
感情 ≒ 意識
やで。ってことはbは成り立つのや。もう一回書いとくと、
p. 言葉があるなら、意識はある ← 偽
b. 言葉がないけど、意識はある ← 真
ってことやで。
意識 ≒ 感情
《仮定》の意識の有無を識別することは、言葉ではできない。ってことよね。意識の有無と言葉の有無には関係がない。やき、言葉を判定方法として用いることはできない。
じゃあ、『感情』であればできるのか？ 感情 = 意識 ってことは感情を誘発させることが意識を生み出すことにもつながる… とも言える。けど、これは悪い方向にも使えるき、やるなら健全な方法を探すべきやな。悪い方向ってのは「わざと怒らせる」とかね。つまり”嫌がらせ”をすることよね。小学生がやりがちやけど。
命題．感情があるならば、意識はある(真)
逆． 意識があるならば、感情はある(偽)
逆が成り立たないのはサイコパスとかの精神疾患も考えられるからや。
『感情がない人』
ってのは、確かに存在するね。今までの経験上でも「多分、そうなんだろうな〜」って人には会ったこともあるし。欠落してるんよな。感情が無くなったのは、
1. 開く機会がなかったから、無い
2. 無理やりこじ開けたから、無くなった
ってことがあるかもしれんし、難しいのよね。反応がない、もしくは少ないからといって無理やりこじ開けようとした結果、消滅した… とかね。
感情をさらに言い換えると『心』のことになる。
感情 = 心
「仕事をしているときに心はあるのか？」
心はなくても『作業』だけでいいならできるやん。やき、機械が使われとるし、AIに代替されるかもしれんなっとるんよな。逆に言えば、AIに代替される仕事は、心がなくていい仕事だった = 意識がなくていい仕事だった ってことよね。ただ単に”処理”していくだけの単純な仕事。y=x の出入力を繰り返せばええだけやな。
さらに言えば、そういう仕事では人間は感情がなくなるのかもしれん。だって、必要ないやん。処理すればええだけなんやから、どんどん無意識になっていく。
心 = 感情 = 意識
なのであれば、仕事には必要ないわな。だから、AIに替えていくんやろうけどね。
心のないAIを使ってるときに、AIの応えによっては「心がある」と錯覚してしまうことがあるけど、実際にはAIには心はない。意識がないんやから心もない。
もし、これが人間相手のときも起こっていたとしたらどうするか？ ってことよね。話しかけてる相手の人間には心はないんやけど、自分は「相手には心がある」と思い込んで話しているのかもしれんやん。そしたら、それは『AIと話している』ってことになる。人間と話してるとは言えんのや。
仕事に意識も感情も心も要らないのであれば、その仕事をやっている『人間』にはどんな価値があるんやろかね。
Duplication
『試験を”コピペ”で乗り越える』
試験をコピペで乗り越えようとする、つまり『丸暗記』をするとその試験は乗り越えられるかもしれませんが、
【同じものが2つに増えるだけ】
とも言えます。文字通り『コピペ』ですね。これは生物でいえば単細胞生物の増殖と同じです。ここで言いたいことは、
丸暗記がダメ ということではなく、
丸暗記だけではダメ ということです。
丸暗記”だけ”だと、元のものから何の変化もないものがもう1つ増えただけですから、さっき言ったように単細胞生物とは言えても『人間』とは言えません。なぜなら人間は多細胞生物ですからね。見たら解ります。
丸暗記 = コピペ が危険なことは、すでにAIの開発で示唆されているようです。AIに文章作成を学習させようとして、”別のAI”が作った文章を使って学習させました。その結果、どんどん『劣化』していくことが判ったのです。AIは、他のAIが作ったテキストでトレーニングした場合、大きな偏りや単純化が起きたり、現実との接点を失ってしまうことがあるのです。
最終的にそのAIは【役立たず】になって使い物にならなくなったそうです。
これを知ったときに、
「人間にもまったく同じことが起こっているんじゃないか？」
と感じました。劣化や偏り、単純化も気になりますが『現実との接点を失ってしまう』ってところが気になりましたね。
まったく現場を見ない上層
まったく国民を見ない政府
まったく子どもを見ない親
これらは等価で結べると考えますが、いかがでしょうか。
日本ではずっと『丸暗記』をやってきましたよね。それならAIで起こったことと同じことが起こっても不思議ではありません。人間とAIは意識がなくても言葉は使えるのですから。
AIが劣化しないためには人間が作った文章を学習させる必要があります。人間が作った というところが大事です。他のAIが作ったものではダメなのですよ。
AIが開発された目的は”人間の補佐として”でした。人間が行うことを補佐するために開発されたのですが、両者の立場が入れ替わることもあり得ないことではないのです。
p. 人間の複製として、AIが存在する
q. AIの複製として、人間が存在する
意識のないAIの命令に従うことは、人間には意識は必要ないことになりますから、会社の中にいる者すべて”意識がない”ことにもなるかもしれません。こうなるとちょっと怖いですよね。
意識のないAIと意識のない人間が、仕事”らしきもの”を行っている会社
SFみたいですが本当にこんな世界にはならないと言い切れますかね。
今日、仕事をしているとき、あなたには意識はありましたか… ？
さて、人類はどちらの世界に進むことになるのか。鍵となるのは意識 = 感情 =『心』かもしれません。
人間の存在意義を問いなおしてみるのもいいでしょう。
＊参考書籍＊
・かけがえのないもの 養老孟司 新潮文庫
＊参考記事＊
この記事が気に入ったらサポートをしてみませんか？