hito <--> kikai

　あなたの目の前に、「円らな瞳」をした「少女」が「座って」いる。

　「少女」はあなたをじっと「見つめ」、「目」から「涙」を流し、「声を震わせ」ながらあなたに問いかける。

　「本当に私を殺すの？」

　あなたは知っている。それが自律型AIを搭載した人型ロボットであることを。虹彩型視覚情報カメラから流れているのがただの冷却水であり、何の味もしないことを。その「声」が3ヶ月前に命を落とした人気声優の声であることを。そして、この状況が「悲しみ」リストのパターン332に該当し、「彼女」は「悲しみ」に従い動いていることを。「彼女」は、「嗚咽を漏らし」ながら続ける。

「私だって…私だって生きていたい、あなたたち人間のように生きていただけなのに、どうして許されないの？」

　あなたの手には、一丁の拳銃がしっかりと握られている－－

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

ソウゾウリョク

　どうも。こんしるという者です。mechB内定だそうです。

　先に断っておきますが、僕の思考をただ書き連ねただけなので、結論とか有用性とかはないです…ｽﾏﾅｲ…

　突然よくわからないストーリーで始めてしまいました。SF小説ににはまりつつあるのでおままごとしてみました。読み始めたのがつい最近なので全然知らないですがオススメあれば教えてください。ちなみに僕のオススメは伴名練先生の『なめらかな世界と、その敵』です。読め。

　SFのストーリー設定を思いつける人間、本当にすごいですよね。現代科学のその先の先の世界を、彼らはは文学を通して想像であっても描くことができる。宇宙の遠くを見て過去を知るのよりもずっとはっきりと、未来を見ているような気分になります。

　しかし現実はいつも想像を超えてしまうのもまた事実。それこそ1年前には想像することもできなかったこのコロナパンデミックも、それに伴うオンライン化生活も、あまりにもSFというか近未来的な感じがするのは、僕だけでしょうか。教授がただの物体に向かって授業をしているのも、音の出る物体をみて勉強するのも、けっこう異様ですよね…

　こんなSFチックな今を作り上げたのは、SFを夢見た先人だろうと思っています。いつだってほとんどの場合、人間の想像力が先にあって世の中がそれに染まっていくのだと思います。完全に偏見ですけどmechはそういう「想像を実現したい」人が多そうな気がしています。ガンダム再現とか。

　なんでこんな堅っ苦しい話してるかといえば、僕もその一人だからです。

機械は感情を持てるか

　世の中には「Detroit; Become Human」という神ゲーがあります。神ゲーなので絶対に自分の手で最後までプレイして欲しいんですが、このゲームは「機械」と「人間」の間を描いたストーリーになっています。アンドロイドが自分で思考し、誰かを守り、誰かのために戦ったとき、それは果たして機械なのか、新たなる知性ある種族なのか。

 「プラスティック・メモリーズ」というアニメもありました。上よりはこちらの方が人間と機械の距離は近いですが、やはり「機械」と「人間」の間を描いたストーリーになっています。本当に泣けるのでこれを観てから呼吸してください。

　そう、僕の中でホットな話題は、いつか来る(かもしれない)『「機械」と「人間」の距離が近い未来』です。もっと言えば、『機械と感情を共有できる世』です。

　もちろん感情の「共有」であって、感情の「発生」ではありません。たとえばメンタルケアように可愛いオットセイのロボが動いているCMをみたことがありますが、一方向的に与えられる感情ではなく機械と共有する感情の話です。

　というと、機械の目的であるとか機械の定義とか、そういったものを見返す必要がありますが、それについては後述したいと思います。

機械に感情を持てるか

　さて、ここでちょっとイメージしてみてください。

　目の前に時計があります。ネジが緩んだかパーツが曲がったかわかりませんが、何かが原因でどうやら不具合が発生しているようです。しかし残念ながら、それは修理不可能であることがわかっています。依頼主から破壊するように要求されました。針の音が邪魔なんだだそうです。ちゃんと報酬も出るそうですが、破壊しますか？

　まあ破壊するのではないでしょうか。報酬も出ますしね。

　では、次にこれではどうでしょうか。

　目の前に患者がいます。老衰ゆえか生活習慣ゆえかわかりませんが、何かが原因でどうやら臓器に異常をきたしているようです。しかし残念ながら、彼はもう手遅れであることがわかっています。依頼主から殺すように要求されました。邪魔なんだそうです。ちゃんと報酬も出るそうですが、殺しますか？

　え？？殺さないですよね？？？？

　まともな道徳教育を受けていて、理性がしっかりしていて、そうしないと自分の命が危ないとかそういう状況でもなければ、いくら報酬が貰えようと殺人はしないでしょう。

　さて、本題です。

　あなたの目の前に、円らな瞳をした少女型ロボットが座っています。老朽化かショートかわかりませんが、何かが原因でプログラムに異常をきたしているようです。しかし残念ながら、彼女はもう手遅れであることがわかっています。依頼主から破壊するように要求されました。邪魔なんだそうです。ちゃんと報酬も出るそうですが、破壊しますか？

　あなたはその機械を、または彼女を、破壊しますか？

　また、もし破壊するなら彼女と患者の違いは何でしょう？破壊しないなら、時計と彼女の違いは何でしょう？もし破壊する人に出くわしたとして、あなたはその人を否定しますか？

　たとえば、カエルのぬいぐるみを壊せますか？それが動くロボットだったら？それが言葉を喋ったら？それが意思と感情を持ったら？どこまであなたはそれを壊せますか？

　

　そう、たとえ機械が感情を持てたとしても、人間がそれに対してどう認識するかというのは別問題です。いつか機械が「感情」を持ったときに、それを「感情プログラム＝人間の感情の模倣」としてみるか、「感情＝人間の感情」としてみるか。機械が感情を持つ一連の物語の、最大の壁のひとつだと思っています。

　そして現実問題として、この「機械感情論」には研究者側としてはあまり肯定的ではないようです(といっても二個しかそれ類の本を読んでないので偏of見です)。実際問題として、システムを作ってプログラムを入力している側としては、「再現」が目標なのであって、「誕生」は目標ではないわけですから、これはこれで当然だとも思っています。建設中のビルに感情が芽生える考えるようなものです。しかし、漠然とした夢として持っていたいだろう、という話を後でします。

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

　弾丸のリロード音が無機質な部屋に冷たく響く。CPUの入った「頭部」を確実に破壊するため、あなたは彼女の「こめかみ」に銃口をしっかり突きつける。あなたは少しためらってから、微小振動を続けている「彼女」に問いかける。

怖いか？

　「彼女」は「唾を飲み」、「怯えた表情」で「声」を「震わせ」ながら、「涙」を光らせて言う。

「怖い。とても…」

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

機械とは何か

　人間と機械の距離が難しい問題について語りましたが、ここで根源的なとても弊学科らしいタイトルで主張したいと思います。

　「機械」って、何ですか？

　ちゃんと弊学科でも授業で説明がされていました。それによると、

　機械とは、物体を組み合わせて作り、各部に所定の相対運動を実現させて、人間に有用な仕事をさせるもの　（「機構学講義」渡辺茂　1961）

人工的に作り出したもので、その動く仕組みが理解可能な人間にとって有用なもの（機構学初回授業より）

とのことです。

　もちろんこれらは「現段階での」説明であって、今後変わっていくべきものでしょう(実際授業でもそのように言っていました)。でもこのまま固定になるのは適当ではないと思います。人間にとって何かしら有用でなければ機械ではないのでしょうか。我々は制作物全てに目的を持たせなければならないのでしょうか。また、物は必ず目的をもっていないといけないのでしょうか。

　もしかしたら僕の理論ガバガバな妄想話かもしれませんが、少なくとも僕自身目的を持って生まれている自覚は皆無ですし、突き詰めても人間の生きる意味とかいう哲学的な話に帰着して曖昧に終わると思います。機械もそれでいいのではないでしょうか。目的がなく作られたものであることで、人間との距離は近くなるのだろうと勝手に思っています。

機械と倫理

　機械に感情を持たせることができるとき、もはや機械に目的は必要ないだろう、という話を書きましたが、それゆえに新たなる倫理的な問題が生じてくることでしょう。まず前述の具体例のように、「機械に感情があるとき、機械の破壊は殺人か器物破損か」という問題、「感情を持った機械に社会的権利は与えるべきか」、そしてなにより「感情を持った機械の創造は、生命を造ることになるのか」といったことがあると思います。

　特に最後、「新たないのちを作り上げる」ことについては、かなり倫理的論争を産むでしょう。生命という自然の神秘的現象を自分の手で操るという行為が、殺人や自殺と同様に、なにか色々なタブーに触れる行為であるような気がしてなりません。

現実的な話

　とはいえ、機械が感情を持ち人間に馴染む日がそもそも来るのでしょうか。現実的な話としては、僕の考えでは「少なくとも僕の生きている間には実現しないだろう」と思っています。というのも、あまりにも実現までの壁が高すぎるからです。

　そもそも感情というものがあまりに難しすぎます。同じ場所、同じシチュエーションでも直前の出来事次第では感情は変わります。また、感情自体があまりに繊細で、感情をカテゴライズするのがあまりにも難しいです。本などではよくある例として、日本語圏にだけ存在する「甘え」という概念が取りだされます。「甘え」は英語などにはありません。これが喜なのか楽なのか客観的に決めるのはあまりにも難しいでしょう。

　感情が難しすぎる一方、技術があまりにも遠いというのもあります。現段階では（ディープラーニング等、特徴量調査こそできつつありますが）、あくまでも今開発中なのは「知能」や「知識」関連の理性的な側面です。理性的な機能ができて、思考や運動をする機能ができて、感情の機能の開発ができるのはおそらくその後、最後の最後だろうなと思っています。

　さて、その「最後」が来た時。つまり、いわゆる技術特異点、シンギュラリティ。人工知能が人工知能を作り出し、邪魔な人間を抹殺し始める、というのもやはり SF設定でよくある話ですね。上の通り、技術特異点が来る年は遠い未来だろうと思います。しかし、なんとなくというか理由はないんですが、僕のイメージとしては「機械が人間を追い越す」という図よりも、「機械が人間に漸近する」イメージを持っています。超える前に人工知能は人工知能たち自身を律することになって、人間を排斥することはないように思います。

　少し機械が知能を得れば、世間の人間は機械に対してより親密な関わりを求めるようになるでしょう。そうすると、機械側も人間にたいして危害を加える理由はないでしょうし、むしろ協調すべき生命体になることかと思います。そもそも人間を滅ぼす理由も特にないでしょうし、人間の知能を超えてもなお発展し続けようとする理由があるのかは微妙なところだと思います。確かに某のように、機械と人間との間の衝突が発生することはあるかもしれませんが、人間が機械に近づいて、機械が人間に近づいて、お互い寄り添え合えば排斥しようとすることはないでしょう。

　人間と機械の関係がどうなっていくのか。今後の関係は、しばらくは我々人間の手に委ねられることでしょう。はたしてどうなっていくのか期待しつつ、文章を締めたいと思います。長々とお付き合いありがとうございました。

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

　銃声の残響音は消え、後に残されたのは火薬の匂いと、地面に横たわる重たい機械の塊、そして、あなた。

　「彼女」の「断末魔」の「表情」が、脳裏に焼き付いている。

　鉄の匂いと、燃料液の青色が、ふいにあなたの知覚を刺激する。暖房の効いた密室の中、あなたの額には汗がだらだらと流れ、悪寒を感じ震える。その震えは、「彼女」の微小振動となんら変わらないのではないか？めまいを感じてあなたは床に崩れ落ちる。胃液が逆流する。

　あなたはその機械を停止した。

　あなたは「彼女」を「殺した」。