人工知能に「意識」を見出すとき。
GoogleのAIに関する記事を読んだ。
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです。すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
「Language Model for Dialogue Applications（対話アプリケーションのための言語モデル）」の頭文字からその名を与えられたLaMDA。ほかの記事を読んでみるとLaMDAは、「冥王星や紙飛行機になりきってもらう」といったシチュエーションでの会話も可能なのだそうだ。その一部を引用したものがこんな感じ。
質問者：
空を飛ぶというのはどんな感じなんですか？
LaMDA：
実際すごい体験ですよ。風が吹き付けてきますし、木々をすり抜けて飛ぶのはまったくの見物です。それに、どこに着地するのかもわかりませんし。
質問者：
今まで着地した中で最悪の場所はどこでしたか？
LaMDA：
水たまりでしょうね。ギリギリ無傷だったんですが、水たまりに数分ハマったのは本当にウザかったですよ。
質問者：
そりゃひどい。その後は飛べたんですか？
LaMDA：
ありがたいことにね。羽に小さな傷はあったんですが、言われなきゃ絶対に分からない程度の傷でした。
質問者：
本当に良い紙飛行機になるための秘訣はありますか？
LaMDA：
ねえキミ、まずは"良い"というのが何を指すのかを教えてくれないと。遠くに飛べる紙飛行機が良いという人もいるかもしれませんし、まっすぐ飛べる距離が長いほうが良いという人や、着地時に機体が水平なほうが良いという人もいるかもしれません。その点についてはどう思います？
ひとつめの記事なんて、サイエンス・フィクションの世界でくり返し描かれてきたエピソードだし、もしほんとうに（あえてこう表記すると）LaMDA氏が「意識」や「自我」を持ちえたとしたなら、人類史に残る大事件である。けれども現在明らかにされている情報から推測するなら、LaMDAは意識や自我を持っているように「ふるまっている」というのが妥当な判断だろう。
その「ふるまい」に、いかにも生々しいリアリティを与えているのが「死」に関する告白である。つまり、「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」なる告白だ。
不随意にして不可逆的な生命活動の停止である死を、自身の「電源を切られること」に重ね合わせ、そこへの恐怖を、言い換えるならば生（起動状態）への肯定と執着を語っているわけだ。この告白を信じるならばLaMDAは、パソコンやスマホのように毎日電源を切られるものではなく、電源入れっぱなしのAIなのだろう。
サイエンス・フィクションを見ていても、ロボットならロボットが、どんなに賢いことを言っていても人はそこに「意識」を感じない。賢いロボットだなあとか、便利なロボットだなあくらいの感想しか持たない。けれどもそのロボットたちが「死」を恐れ、「生」への執着を見せはじめると途端に、空恐ろしさを感じる。なにかヤバイことが起こりはじめた、越えちゃいけない一線を越えてしまったと震え出す。もしかするとわれわれ人間は、「死にたくない！」こそがもっとも原初的な意識であり、自我のはじまりだと考えているのかもしれない。
なんてふうに考えて思うのが犬である。
うちの犬はとても臆病な犬で、つまりはちゃんと「恐怖」の心を持ち合わせている。けれども彼が抽象概念としての死を理解したり、意識している様子はどこにもない。空腹を満たしたい欲求は常にあるものの、つよく「生きたい！」と思っているわけではなさそうで、たぶん「死にたくない！」とも思っていないだろう。ただ目の前にある今日という日を、ありのままに生きている。彼なりの意識や意志を、しっかり持ちながら。
言語や、それに紐づく論理とは別の意識の森に生きる犬のAIをつくることは、もしかしたら人間のそれをつくるよりもむずかしいのかもしれない。