つまんねーけど面白い？！AIクリエイター・ゲーム開発者達による『AI 2041』読書会
この記事は２０２３年３月１３日に開催した『AI 2041』というSF小説のオンライン読書会のレポート記事です。書評のような要素を含んでいるので『AI 2041』がどのような本なのか知りたい人にもおすすめです。
『AI 2041』について
元Google中国社長であるカイフー・リーとGoogleでの勤務経験のあるSF作家のチェン・チウファンが書いた小説です。２０４１年の世界各地を舞台にした１０個の短編と、それぞれの短編で登場する技術（深層学習や自動運転車、量子コンピュータなど）を解説したパートが毎章付随する構成となっています。
各短編は２０４１年を舞台にしていますが、それぞれにおいて未来の予測は異なるため作品間の設定的なつながりはありません。
雑感として、２０２１年に刊行された本なので２０２３年３月時点では既に部分的に実現してしまった技術もありますが、人工知能学者が２０４１年の様子をなるべく正確に予測しようと最善を尽くした印象を受けました。ただし、そのせいで小説としての面白さが犠牲になっているように思える部分も散見されました。
読書会参加者について
アラスカ４世：会の主催者、この記事の作者、AIクリエイターとしてStableDiffusionなどを用いた創作活動を行っている。
ひでシス：（株）めぐみソフト社長／「闇の自己啓発」共著者。業務委託で賃貸の入居審査AIを開発したり、自社プロダクトにもAIを組み込んだりしている。
バターン檜山：インディーゲーム開発者。ふりかけ☆スペイシーというビジュアルノベルをリリースした。
上梓ステレオペイ：ケンモメン？
読書会の様子
１章 恋占い
深層学習などを用いて生命保険の保険料を判定するAIが浸透した世界でインドの被差別カーストの人を差別してしまうのを乗り越える話でした。
深層学習を用いたAIは過去のやり取りを参照しているので基本的な振る舞いが保守的だ、という問題点があるという話をしました。AIが何を考えて発言したのか経路がきちんと説明されていれば誠実さを感じるので好ましい。一方でAIに嘘をつかれると心象が悪くなってしまうというバターンさんの指摘がなされました。ステレオペイさんは、なんらかのブレイクスルーがあれば将来的には人間よりも機械のほうがコミュニケーションが得意になるのではないかと話しました。私はコニュニケーションを行う人についても、そもそも人そのものがはChatGPTと同じぐらい得体の知れない存在だという話をしました。
２章 仮面の神
敵対的生成ネットワーク（GAN）やディープフェイクを用いたナイジェリアでの政治的な暗闘の話でした。
あと数年で実用化できそうな気がする技術ばかりが出てくるので、もし２０４１年になってもこれぐらいの技術の進歩しかなかったら嫌だという話がでました。
技術的に特筆するものに乏しかったので、読書会としては本作の小説としての構造に関する話題が多く出ました。作者はAIを「創造性、共感、器用さ」を苦手としているものとみなしており、人間が「創造性、共感、器用さ」のうちのどれかを発揮して問題を解決するストーリーばかりになっています。その枠から外れた話を書くと考証的な間違いになってしまうとの考えから、未来予想として誠実である代わりに読み物としての意外性に乏しい、というのがこの本全体の基調低音になっています。
３章 金雀と銀雀
高度な自然言語処理AIとXR技術を用いたエリートの子供向けの教育の話でした。
ひでシスさんの感想は、AIに教育を丸投げすると、目的関数の設定によっては極端に競争的で好戦的な子供になってしまうかもしれないので恐いとのこと。ステレオペイさんは、AIが人間の個性をならして均一的な人間に育ててしまうのではないかと見解を示しました。私（アラスカ４世）は、ウマ娘の新シナリオ（グランドマスターズ -継ぐ者達へ-）に作中の描写と似たようなAIが登場しており、AIを用いた教育を行う上での示唆を含んでいるかもしれないと述べました。（ウマ娘の新シナリオに関しては、後日評論のようなものを書くかもしれません。SF的な要素とウマ娘のゲームシステムや世界観が共存した、挑戦的で興味深いシナリオだったと思います）
また、AIを使用したゲームプラットフォームが一般に公開されるという内容も書かれていたため、AIとゲームの関係性にも話が及びました。AIはレベルデザインが得意なのか？→遺伝的アルゴリズムなど、マシンパワーで並列性を確保できるAIには「この場面はチュートリアルに近いので操作ごとにフィードバックを返してあげたようが良い」「この場面ではこれぐらいの難しさを提示したほうが面白くなる」を適切に評価できる関数を与えることができれば、もっとも面白く感じるレベルデザインができるのではないか、という話をしました。
４章 コンタクトレス・ラブ
AIと医療に関する話でした。新型コロナが変異し続けて、数十年単位でロックダウンがつづいてしまった中国を舞台にネット上で恋愛をした人ががんばってリアルで会う話でした。
読み物としてつまらない部分が多く、酷評されていました。解説によるとAIは創薬が非常に得意らしいので、AIが医療を進歩させていくのが楽しみです。ただしこの小説本編は創薬をする話ではなくコロナのロックダウンの話でしかなく、読み物としては……。
未来予想の正確さと読み物としての面白さを両立させるのは難しいと感じさせられる章でした。
５章 アイドル召喚！
VRなどが登場する話です。日本の女性が主人公で、女性が心頭している男性アイドルの「幽霊」と関わりながら謎解きのゲームをしていく話でした。
主人公であるアイドルオタクの日本人女性の得意料理がラーメンだった点がボロクソに言われていました。技術的な考証の正確さとラーメンや日本人アイドルの描写の雑さのギャップが感じられます。
なお、技術的な話は特にされませんでした。
６章 ゴーストドライバー
自動運転車がある程度普及した世界で、災害救助などのために自動車を遠隔手動操縦する子供の話でした。災害現場では自動運転のための路面標示が壊れてしまったり、土ぼこりでリモートセンシングが困難になってしまうので、そんなときこそ人間が遠隔で自動運転車を運転することで人々を助けることができる、という設定です。
作品としての感想は「またゲームが現実に波及する話か…」みたいな感想もありました。
自動運転車が普及すると、車を運転する技能がありふれたものから特殊なものになっていくという指摘と、そもそも東京に住んでいると車を運転する必要が乏しい（電車などに乗ればいい）のでたいしたことではないという指摘がなされました。
７章 人類殺戮計画
量子コンピューターや自律兵器を巧みに用いた大規模なテロを阻止しようとする話です。外連味が強く、楽しい章でした。悪事を働く想像をするのは楽しいです。テロリストではなく北朝鮮のような主権国家が悪事を働く話も読んでみたかった気もします。
作中で描写されている自律兵器の怖さや、自律兵器へ対策を取ることの難しさなどを懸念する意見が多かったです。
８章 大転職時代
AIのせいで失業する人と、転職を斡旋する企業に務めている人の話でした。
経済的な格差が残ったまま人間のやることがなくなってしまった過渡期の世界の厳しさを感じる感想がありました。
それはそれとして、２０４１年の時点ではまだそうならないとしても、「人間のほうが機械よりも得意な事」は遅かれ早かれ何もなくなってしまうのではないかと参加者全員が考えていました。
AIは「創造性、共感、器用さ」を苦手としていますが、どれもいずれ克服していくのではないかという話をしました。人間は自分の行っている仕事を特別視し、「私の仕事はAIに代替されることはない」と考えがちです。例えば企業運営もAIが代替する未来というのはあり得るわけですが、作者は経営者だから経営者を特別視するバイアスから逃れられず、AIが普及した２０４１年の未来においても人間が経営を担うと考えているのかもしれません。
そのようにして人間にやる賃労働がなくなったらどうなるのかという話もしました。家事や庭いじりに専念すればいいという話や、かつての貴族のように生産的な活動をせず、子孫や家系を継ぐことに特化していくようになるのではないかという話が出ました（貴族には軍事活動や行政などの担い手としての側面もありますが、それは別の話として）。
原則何もせず、AIが問題を起こした時に代わりに責任を負うだけの職業が生まれるかもしれないという話も出ました。これも古代や中世の社会を連想させる話です。
その一方で愛のためだけに生きることができるようになるかもしれず、それは素晴らしい事だという話もしました。
９章 幸福島
個人のデータを収集するAIを用いて幸福をもたらそうとする人と、そのユーザーの話でした。
AIは幸福を理解できるのかどうか、そもそも幸福とは何なのか誰かに理解しうるものなのかどうかなどの疑問や、幸福とは何なのか理解できなくても人を幸福にさせることができるのではないかなどの意見が出ました。
作中で描写されているのは快楽であって幸福ではないし、ゲームの細かい調整を自動生成しているのと変わらないという意見もありました。
自分より自分について詳しい者がいて、その自分を幸福に導こうとするアルゴリズムがブラックボックスになっている状況の危うさへの懸念が示されましたが、一方でそもそも他者というものはそれがAIであれ人間であれブラックボックスに包まれているものなのでは、という反論もありました。
１０章 豊饒の夢
生産力が増大した社会での新しい貨幣モデルと、そうした社会で生きる人の話でした。
作中では生産力が増大し欠乏が減った時代を「豊穣」と呼んでいますが、そのような生産力の増大が本当に起こるのかどうかという疑問や、生産力の増大が起こったとしても作中のような貨幣モデルの変化は起きないのではないかという意見が出ました。ひでシスさん的には、労働価値説的には、人間の労働時間そのものが貨幣価値の源泉であるため、AIや機械によって生産される財には使用価値は存在しつつも交換価値は付与されにくいのではないかとか。
無料で支給されるものだけを消費して何も経済活動をしない人は現れる（増える）のではないかと予想したり、国家が国民の生活を統制するような貨幣モデルになってしまうのではないかという懸念が示されたりしました。
その他
作中のような未来やその後訪れるかもしれないシンギュラリティーの後で人は創作を続けるのかどうか。AIの創造性が人間のそれを凌駕してしまった時、創作を続ける意味があるのか？などの話をしました。AIが何をしようが関係なく作られうると思う作品の実例を挙げたりしました。
またAIが批評を行うことについての話もしました。わからない作品を理解できるようにしてくれるAIが登場するかもしれませんが、それでも時間をかけて作品に取り組むことの楽しさが失われるわけではないかもしれません。その一方で、AIに解説してもらう前提でものすごく難解なメディアや情報量の多いメディアが現れるかもしれないという予想もしました。例えば、AIに解説してもらうことを前提としたオープンワールドゲームで、5億人のNPCが出てきてリアルな話やそれぞれのストーリーを語るようなものなど。
作品に関する総評
とにかく正確な未来予想を書く事を重視した作品だったと思います。筆者の2名ともがGoogleのエンジニア出身だったため、技術的な正確性に重点を置いたのでしょう。作中の技術的な描写はどれも概ね妥当そうに見え、その部分のクオリティーはすごく高いです。どのような技術がこれから実用化されていくのか知りたい人にはおすすめの本です。
逆に、ただ単に面白いSF小説が読みたい人にはおすすめできません。正確な未来予想であるという事は意外な技術が登場しないということでもあるし、登場人物も常人の想像とはかけ離れたような行動や思考を行わないので、読書体験としての意外性には欠けていました。
それと、この本は２０４１年を描写することに専念しているので、その後で何が起こるのかについてはあまり言及されていません。その点には留意した上で読むかどうか考えたほうがいいと思います。
個人的には、この本に書かれているような２０４１年がそっくりそのまま本当に来ることはないと思います。良くも悪くも人は特異な行動を取ることのある生き物であり、その行動が周囲に影響を与えていくからです。誰も予想しなかったような未来がやってくると思います。
深層学習を行うAIが実用化されていく時代において、AIのモデルによる予測や外挿の範囲を超えた、人間独自の特異な行動が与える影響は以前よりも高くなっていくと思われますが、そうではなかったとしても人はそういう生き物だと思います。AIが暴走するかしないかにかかわらず、人間はこれまでも暴走してきたし、これからも暴走を続けていきます。
それでも、未来予想の叩き台としての本書の価値が失われてしまうわけではなく、意義のある読書体験だったと思います。
読書会も有意義だったので、また今回のような読書会が開催できればいいなと思っています。
この記事が気に入ったらサポートをしてみませんか？