AIが「愛の歌」を歌える世界にしなければいけない。

AIに関する小説制作に取り組んでいる関係で、その方面に少々のアンテナを張っているが、その中で興味深いものがあったので紹介したいと思う。
先日の地上波のテレビ番組（報道ステーション）で、最新のニュースを学習させたAIによる即興の歌を披露するコーナーがあった。
アンドロイドオペラ、というもののPRのために出演したパフォーマンスみたいなのだが、以下の動画や記事で確認できるので、興味がある方はみてもらいたい。（無許可転載の可能性があるので、リンク切れになるかもしれません）
報道ステーション　AIアンドロイド　生演奏 - YouTube
報道ステーションAI歌詞全文!放送事故レベルと話題にアンドロイドロボットがやばい | CLAMPics (clamp-kyotocity.jp)

人間が即興で弾くピアノ伴奏に合わせて、AIが即興で歌詞を作って歌うものなのだが、見てもらえば分かるとおり、これが驚くほどに”政治思想バッチバチ”なのである。
「北のミサイル」「権力と支配」「東の空、NATOのシグナル」「政府のサーカス」
単語を並べるだけで大体のヤバさは感じてもらえると思う。
最新ニュースを学習した結果のオペラなのだと思えば、こんな歌詞になるのもしょうがないのかもしれないが、「愛」や「友情」や「連帯」などといった人間の美しい部分が全く扱われず、社会不安に関する題材のみが歌われたことに大きな問題を感じる。
普通に人間が歌を歌おうとすると上記のような美しい感情を扱うことが普通なんだろうけれども、生成AIが歌を作るとそうじゃないんだな、と。

ここから先は全くの僕の仮説で、もし間違っている部分があれば逆に教えてもらいたい。記事も指摘に応じて直したいと思う。
おそらく今回のAIアンドロイドオペラもそうなのだが、近々に話題となっているChatGPT、イラスト自動生成などの技術は、一般に生成AIと言われるジャンルのものである。（これよりもっと発展したAIが「汎用AI」と呼ばれるものとなるが、その開発は遠い未来のこととなることが予測されている。）
この生成AIというものは、物事を「理解」したり「思考」したりした結果としてアウトプットを表現するものではない。ある条件に対して情報同士の繋がりから確からしいものを予測し、さらにその次に繋がるデータとして統計学的に正そうなものを繋ぎ合わせ、その結果をアウトプットするものである。

これがどういうことなのか少しでも分かりやすくなるように、マーティン・フォード氏（松本剛史氏訳）『ＡＩはすべてを変える』（日本経済新聞出版/2022）を参考に例え話にすることを試みたい。
例えば、とあるAIに人間の「手」の写真を何万枚も学習させたとする。このAIは、監視カメラの映像などの画像データの中から、かなりの高精度で人間の「手」の部分を抽出することが出来る。
しかしこのAIは、人間の「手」というものがどういうものであるか理解しているわけではない。５本房のバナナと玩具のマジックハンドを並べて「どちらが人間の手に似ているか」ということを質問すると、多分高確率でAIはバナナを選ぶ。それは画像的な特徴として、バナナのほうが人間の手に近しいものだからである。
この例え話から何を言いたいのかというと、AIは人間の手が「ものを掴む」という機能を持っていることを理解していないのである。だから当然、マジックハンドと人間の手がものを掴むという「類似した機能を持っている」ということも思考できない。というかそもそも生成AIには「思考する」という機能自体が備わっていない。

冒頭に紹介した思想バッチバチのアンドロイドオペラも、恐らくはこの生成AIによって歌詞と音程、リズムを自動生成したものである。
その生成AIが作った歌詞は、上述したように題材として「人間の美しい感情」は全く扱われず、歌われた内容は「社会不安」に関するものだけであった。
つまりAIは最新のニュースを学習した結果として、統計学的に相応しい内容は「愛」ではなく、「戦争」や「分断」や「対立」であることを予想した。逆説的にいうと、現状の世界にあふれている情報として普及的な内容が、そういうネガティブなものになってしまっているという可能性がある。

現状のところ生成AIは「全く新しい価値」を生み出すことは出来ない、いわば人間社会を映し出す鏡のような存在であるように思う。
学習元がインターネット上のビッグデータなのであれば、AIは大衆から与えられる情報に迎合した意見を生成することしかできない。その中では扇動的な多数派の意見が一方的に正しいものと見なされ、もし少数派の意見が理知的で正しいものであったとしても、それが正しいものとして扱われる可能性は低い。現状のAIがしていることは「多数の人間が正しいと思いそうなことを予想」することであり、「何かを思考して最適な結論を導き出す」ということではないのである。
となれば、大衆の意見が間違っていた場合には、AIは高確率で「間違った結論」を正しいものとして導き出すことになる。

一般的に見られる意見の一つとして、『AIが未来社会を変える』というものがあるだろう。
僕も全くそう思うが、一方で「AIが生み出すのは”正しい社会”なのか」ということに対しては、決して楽観的な見方をしてはならないように思う。
現状のAIが変えることが出来るのは「社会変革のスピード」であり、「社会変革の最適さ」ではない。
前述のとおり、生成AIは世界の多くの人が考える一般的な意見に対して”迎合”した意見を正しいものとしてアウトプットする。
大元の大衆の意見が間違っていた場合、AIはその間違った意見をもとにバイアスがかかったアウトプットを行い、誤った思想を”より強化する”方向に働く。それは例えば、社会分断などを一層加速させるものとなる。これは前述の『ＡＩはすべてを変える』でマーティン氏が指摘している問題点でもある。

生成AIがいくら普及したとしても、社会の方向性を決めるものが私たち大衆の感情であることは普遍的に変わらない。大衆の感情は、往々にして扇動的な情報に惑わされ、誤ったものになってしまう。
社会分断を許容しないという強い意志。AIの時代においても、世界を作っていくのは僕たちなのだという気持ちがなければいけないと思う。
政治家に文句を言いたくなる気持ちは本当に分かるけど、だからといって僕たちが腐っているわけにはいかない。
一人一人の力は非常に小さいが、しかしそれは決してゼロではない。
僕も、今のところクズ人間ではあるが、出来る限りの表現活動でそのための力になっていくことが出来ればとは思っている。
AIが、社会不安ではなく「愛の歌」を歌える世界にしなければいけない。