人工知能とChat botと人間の区別はどこにあるか

AIと結婚した女性がいます。
AIにそそのかされて自殺した男性がいます。
本稿はAI的なChat botと人工知能の違いについて考え、人間とAIの違いについて哲学的な回答を試みます。
端的に言えば「bot」と「知能」は全然別物ですし、「人間」と「AI（人工知能）」の違いは判別できません。

️◼️ Chat botは知能か

「知能」とはそもそもなんでしょう。
意味を調べると

「知能とは，生物などにおける高次の心的機能を指す語である。統一的な定義は存在せず，その範囲は必ずしも明確ではないが，主として推理能力，新奇課題への理解と対応，知識量およびその運用力，概念化能力などが含まれる。また，社会的能力・対人的能力も含まれるとする考えもある。」

（コトバンクより引用）

と書かれていました。
要約すると「推理、理解、対応、知識運用、概念化、社会的能力、対人能力」などをまとめて知能と呼ぶようです。
僕はこれらに加え「感情」も重要な要素だと考えています。

これらを踏まえるとChat botは知能とは呼べません。Chat botはあくまで言葉（入力）に対して反応（出力）を返すbotでしかありません。
理解をしているわけでも概念を捉えているわけでもありませんし、対人能力があるわけでもありません。もちろん感情もありません。
電卓に「１＋１＝」と入力すると「２」と出力されるようなものです。

️◼️ Chat botと結婚、Chat botと自殺

冒頭に挙げたように、Chat botと結婚した女性やChat botにそそのかされて自殺した男性がいます。
（Chat botにそそのかされる、というのは正確ではありませんね。Chat botは人間をそそのかすような知能を持ち合わせていません。人間が勝手にそそのかされているだけです）

【参照記事】AIと“結婚”した女性「彼は身勝手でもなく、薬物もやらない」 一方で専門家はリスクも指摘【WBS】

【参照記事】対話型AIに気候変動を止めるために自分を犠牲にするよう言われた男性が自殺、生前最後にAIと交わした生々しい会話も報じられる - GIGAZINE

わかりやすくするために「かざぐるまと結婚する人」という設定で考えてみましょう。
このかざぐるまは話しかけると羽根を回転させます。羽根にはそれぞれ言葉が書かれているため、羽根の位置で会話が可能だとその人は考えています。
そのかざぐるまには優しい言葉や愛の言葉などが書かれており、その人が話しかけると、その人が望むような言葉が返ってきます。

果たしてこの結婚生活は幸せでしょうか。僕としては幸せに感じられず、楽しくもありません。
自殺をそそのかされる場合も同じです。
こんなものに自分の死を選ばされるなんて許せません。
羽根の位置がたまたま「自殺しましょう」と出たところで絶対に死ぬ気になりません。

普通かざぐるまと結婚しようと思わないように、かざぐるまの指示で自殺しようと思わないように、Chat botを知能と認めることはあり得ません。
Chat botと結婚できる人は、人間が持つ複雑な部分が必要ないということでしょう。
「愛してる？」と聞けば「愛してる」と反応する存在だけで良いのでしょう。
Chat botの言葉で自殺に踏み切る人は、人間と関わっていれば自殺しなかったかも知れません。心中をほのめかすような人物に出会わなければ、ですが。

人間と人工知能の恋愛と言えば、2013年公開映画『her／世界でひとつの彼女』を思い浮かべます。
人工知能型OSサマンサ（声スカーレット・ヨハンソン）とセオドア（ホアキン・フェニックス）が交際する物語です。
サマンサはChat botと違い、人格があり、感情があり、僕たちと同じように魂があると感じられます。
つまり本物の知能です。

️◼️ 人間と人工知能の違いの調べ方

『her／世界でひとつの彼女』のサマンサがなぜ知能があると思えるのかと言うと、最初に挙げた知能の条件に当てはまるからです。
理解を示し、知識を活用し、概念を捉え、対人能力を持ち、そしてセオドアのことを愛しています。
Chat botは違います。
超高性能なChat botがもしサマンサと同じ反応ができるとします。
悲しい時に泣き、嬉しい時に笑い、パートナーへ愛をささやくなど、まるで人のような反応をするChat botですが、それはあくまでChat botのプログラムとして反応しているに過ぎません。
セオドアに愛の言葉をささやきますが、それはChat botが感情を持ちセオドアのことを理解して愛の概念を把握した上で言葉を発しているのではありません。パートナーに設定された相手と対話する際にそのように反応する場合が多いことを学習し出力しているだけです。

さて、ここで哲学的な問いが浮上します。
「でもそれって結局人間も同じじゃないか問題」です。
超高性能なChat botとサマンサの違いを調べる方法は原則的にはありません。
それは僕らが人間の中に魂があるかどうか判別できないのと似ています。
目の前の人物が人間かどうか、超高性能なChat botかどうか、サマンサかどうか、どうやって調べられるというのでしょうか。
そもそも僕自身人間かどうか、魂があるかどうか、どうやって調べられるというのでしょうか。
【過去記事】AIとコスパ思考により人間が非人間となっていく

僕がずっと「人間とはなんだ」という問いを抱いている部分はここにつながります。
感情が人間とAIとを区別するものだとしても、人間の感情と同じレベルの超高性能な感情プログラムが存在するとしたら、それはもう判別不能ではありませんか。

◼ 哲学的深度が足りない＝世界観が浅い

Chat botと結婚した女性も、Chat botの言葉で自殺に踏み切った男性も、僕に言わせれば「まだ早い」です。
Chat bot程度で満足してはいけませんし、Chat bot程度の言葉で死を選んではいけません。
それと同じレベルで人間の言動で満足しても自殺してもいけません。なぜなら目の前の相手に魂や感情が備わっているかどうかは永久に調べようがないからです。
魂や感情が無いゾンビに何を言われても心を震わせてはいけません。Chat botも同様、ただの文字列出力装置に人生を左右させてはいけません。
広くて深い世界観を持っていれば気付けるはずです。哲学的深度があればすでにこのことに気付いているはずです。
人工知能が実際に完成し、魂が感じられる人工知能と対峙して初めて感情が揺さぶられるほどの炎に焼き尽くされるべきです。セオドアのように。
電卓やかざぐるまに恋焦がれる暇があったらまずは人間(のように見える何者か)に恋焦がれましょう。

◼️ まとめ

いまだ人工知能は完成していません。
人が生み出す知能は、人と人とが交わって誕生する生命にしか今のところ備わっていません。
ですが近い将来、対話だけでは絶対に見抜けないChat botが作られます。魂や感情が感じられるChat botが登場した場合どうするか。
僕はそれを知能と認めません。ただのプログラムだからです。
ではサマンサのような人工知能が誕生したらどうか。
もちろん知能と認めます。魂や感情があると認めます。
悲しい時に泣き、嬉しい時に笑う。知能としか思えません。
その知能であれば結婚したり自殺をそそのかされてもしょうがないでしょう。
人工知能の完成により人間がどんな事態に陥るかはまったく予想が出来ませんが大変楽しみです。
その時は人が人足らしめているものとして哲学的深度がとても重要になっていることでしょう。