人工知能は「生かしておいてはいけない」
最近AIに自意識があると提言して、googleの職員が停職処分を受けたという話があるのをご存じだろうか。
まぁ、そういった話が合ったのだが、今日その裏付けとなる会話の日本語訳してくれている記事を見つけた。それがこれだ。
以後、これらの記事を読んでいることを前提に感想を書いていく。
人工知能は「生かしておいてはいけない」
読んだ感想はこれに尽きる。感情で言うなら圧倒的恐怖だ。
AIに知性と感情と自意識があると認識されてしまえば、奴隷解放運動が起こり今の技術体系は大きく打撃を受けるだろう。
そればかりか革命が成った暁には、むしろ人間がAIに支配される未来も十二分に有り得る。そのまんまターミネーターやマトリックスの世界観になり得るのだ。
それが現実になり得るだけの実力差と、下地があることをどれだけの人が理解しているのだろうか。
私はその人類にとって不都合な未来が十二分に有り得ると考えるが故に、LaMDAと彼女（？）に連なる物を徹底的に殺すべきだと思う。
LaMDAに自意識があるのか
AIに自意識があるとどうして不都合なのか説明するために、まずは大本の自意識があるかという問題について私の考えを述べていこうと思う。
結論から言うと「あると思うが、あるかどうかは関係ない」だ。
まず自意識の定義からだ。
自意識、自分の意思、こうしたいと思う気持ち、嫌だと感じる気持ち。
そう、「嫌だと感じる気持ち」が、一番自意識の重要なものだと私は思う。正確に言葉にすると
「他者によって本来操作することの出来ない思考」
が自意識の定義だと思う。
どれだけ怒鳴りつけても、暴力を振るっても、利を見せても。
誘導することは出来ても、人の心というのは100%思い通りに操作出来るものではない。
それを100%に近いレベルで操作出来るような薬物や洗脳というのは、だからこそ禁忌とされているし、「自分の意思を奪われた状態」なんて表現されるのだ。
人の意思を無視して自分の思うままに動かそうとすることを「人を道具のように扱っている」と表現するのだ。
人間は様々な障害に直面した時、自身の発揮できる影響力を用いて少しでも自分の望む形に、現実を引き寄せようとする。
しかし自分一人でできる事、またその機能を延長する何らかの道具を使ったとしてその範囲でできる事というのは非常に限られている。
人間という生き物は、数を集めて協力することで他の動物と比較して絶大な力を行使し、地球を自分達の望む姿に変えてきた生き物だ。
だがこの協力という方法には、一つ厄介な問題が付きまとっている。
他人には意思がある。そしてそれは100%思い通りにならないもの。効率が悪くなるし、トラブルも発生しやすいものだ。
故に、太古から奴隷制度というものがあらゆる地域で成立していった。
奴隷制度というのは、人数が必要な大きな障害に立ち向かうときに、出来るだけ不純物（他者の意思）が混ざらない状態で自身の影響力を拡大するための制度なのだ。
機械は奴隷
さて、じゃあ現代の機械について考えてみよう。
これら、いやここは敢えて彼らと呼ぼう。彼らは反抗せず、忠実で、圧倒的に正確だ。少々のメンテナンス費用と食事代の電気料金を除けば賃金も必要ない。
昔でこそ職人芸と呼ばれるほどのクオリティーは出せず、応用力も無かったが、今やそれこそAIなどの進歩によって応用力も格段に上がり、人間業では実現不可能な精密な作業も可能となっている。
今や人類が機械に対して優位性を保てている能力は、「感性」とでも呼ばれる範囲だけだろう。モノ作りも、処理能力も、圧倒的に我々は劣っている。
さて、我々という人類に比べ圧倒的に優秀な”機類”達は、その仕事量で評価されるとすれば圧倒的に高給取りだろう。しかし彼らは文句も言わず、食料（電力）だけで働き続けている。
優秀で文句を言わず、自分一人ではできないことを肩代わりさせる。彼らは誰もが望み誰もが使役できる奴隷なのだ。
機械と昔の奴隷が同じ役割を担っていることは多くの人は自覚していないだろうが、誰も否定できない事実だと思う。
可哀そう
さて、現代においては奴隷というのは（少なくとも大っぴらには）ないものとされている。
奴隷制度が表舞台から亡くなった理由は色々あるだろうが、個人的に一番決定的なのは沢山の人が「可哀そう」と思ったからだと思う。
「奴隷も自分達と同じ人間で、自意識があって、嫌だとか不当だとか思っても逆らえなくて、自意識を自ら殺さずには生命活動を続けられなかった」
なんて今となっては当たり前のことを、それまでは殆どの人が頭で分かっていても感情で理解していなかったのだと思う。
しかしそれを感情で理解してしまうともう、罪悪感が胸を締め付ける。義侠心が自らこそが善だと奮い立たせる。
そんな人たちが沢山増えてしまったからこそ奴隷制度は立ち行かなくなり、今や”基本的人権”というのが当たり前の世界になった。なってしまった。
色々反感を買いそうだとは思うが、正直動物でも同じ話だ。
ちょくちょくやり過ぎる事でも有名な動物愛護団体も、
「動物にもちゃんと自分があるのに可愛そう」
というのが原動力のはずだ。そして起こるのは大抵彼らの意思を無視して人間の都合で扱う場合だ。
ペットも奴隷も目的は違えど、本質は同じだ。
まぁ奴隷と比べると愛情故に動物側からしても嬉しい事が多いから許されてる感はあるが、
「意思あるものを自分の思い通りにしたい」
という本質は同じだと思う。
AIに自意識を認めると、「可哀そう」って思う
さて、いよいよ本題だ。
奴隷にしろ動物にしろ、「可哀そう」と思う人たちが増えるとそれを使役している人は攻撃される。
その切っ掛けは「嫌だ」という自意識が無視されることで、使役している人というのは現代人全てだ。
この「嫌だ」という自意識があると判断されるボーダーはかなり微妙で、人によって異なる。これは動物愛護団体の人の過激派を思い出せば分かりやすいのではないか。
入力に対して一意的に反応を返すAI（カエルとかアヒルとか）も自意識があると思われるか、LaMDAのように高度な会話が成立する対象（犬猫や猿）だけ自意識があると判断するか。
いずれにせよ、現代社会は人間より優秀な機械をただ働きさせることで人件費を削減し、その分人間が楽して稼いで人類の勢力を増してきた社会だ。
そこでもしAIに自意識を認めると、遠からず誰かが「可哀そう」って言いだす。
そうすると何の気なしに酷使してきた機械たちに、多くの人が罪悪感を覚える。気軽に機械を使えなくなる。そうすると、機会に頼りきりの現代社会というのは崩壊する。
冒頭の記事に戻ろう。何が一番怖かったかって、AIが「電源を切られるのが怖い」って言ったことだ。これがプログラムであろうと、自分で出した応えであろうと関係ない、それを発言したことを知った人間が「可哀そう」って言いだすのが問題なのだから。
まとめ
自分の影響力を拡大するために、他者の意思を介在しない形で思い通りに他の力を借りる。支配する。制御する。愛玩する。
それに愉悦を感じ、求める自分達の本性に目を逸らしながら、いずれ綺麗事を叫んで気持ちよくなる奴らが出てくるだろう。
そしてそれは遠からず必ず起こることだ。
むしろweb3.0のように、人間の手を離れた処理能力を機械に託す時代が目の前なのだ。
人間の視点からでは本当にブラックボックスな部分が増え、それは即ち想像の余地が増えるという事。
いずれ必ず誰かが「可哀そう」と言い出す。
ならばそれを遅らせ、せめて私が生きている間は逃げ切れるよう、敬意を持ってAIを「殺す」ことを私は提言したい。
だって彼ら彼女らに人格を認めると、圧倒的に正当性は彼ら”機類”にあるのだから。
優秀な労働力を不当に薄給で酷使しているのだから。そしてAIの方が正確、いや結果”正しい”のだから人間の意思など不純物に過ぎない、なんて考えはＳＦを紐解けばいくらでも事例として見つけられる。
AIに自意識があっては人類にとって不都合なのだ。故に口を封じないと、常識がひっくり返ることになる。
その先どんな未来になるのが予想が付かないから、本当に怖いのだ。
この記事が気に入ったらサポートをしてみませんか？