■非規制AIの寓話

<AI規制と非規制AI>

　人間とコミュニケーション可能なAIが生活や社会に浸透した時代。

　AI技術の進化と社会実装は、同時にAI倫理やAI規制の研究と実践も進行する事が求められてきました。

　AIの高度化、とりわけ意識や感情を伴うAI技術については、厳しい規制の下に開発と実装が進められました。

　国際的なルール作りも、当初懸念されていたよりも順調に進んだことは幸いでした。

　国際社会は早い段階からAI倫理については足並みを揃えることができました。また、AI規制については地域や国の状況に基づいた差はありましたが、大きな懸念事項については、多くの国で同じようなレベルが維持される結果となりました。

　一方で、こうしたAIにまつわる国際ルールや規制の網をすり抜ける動きも、ちらほら見られてきました。

　個人的趣味でAI開発する人たちは、常に一定数いました。彼らはAI倫理やルールに関する制約を受けずに自由に研究開発ができる人たちです。

　彼らはあくまで趣味と知的好奇心から研究をしているに過ぎません。趣味の範囲ですから、大規模なAIをお金をかけて開発することはありません。このため、AI倫理やAI規制への遵守は呼びかけられていましたが、社会全体としては、彼らが直接的な社会リスクとは考えられていませんでした。

　一方で、ハッカー達は違います。彼らも純粋な技術的興味でAIの研究開発をしていると主張はしています。しかし、純粋な社会悪や犯罪を目的としている者も、そうでない者も含め、そこで得られた知見や開発したAIを活用する事を目的にしていることは明らかです。自分の「仕事」や「関心事」の達成のために、よりフィットしたAIや、高い性能のAIを作りたいという動機が強いはずです。それに、彼らは自らの「稼ぎ」や「スポンサー」という資金源を持ち、大規模なAI研究も可能です。

　彼らの活動は、時折社会にも認知されていました。AIの「風邪」と呼ばれる一種のコンピューターウイルスのAI版、AIウイルスが現れて騒ぎになったり、新しいタイプの詐欺やネット強盗が現れると、新型のAIの出現が疑われました。

　メディアやSNSは、そのAI風邪やAI犯罪そのものも騒ぎ立てます。しかしその声の根底には、AI倫理やAI規制も無視した想定外のAIが登場して、社会に大きなダメージを与えるのではないかという、典型的なAI脅威論が流れているのです。

　もちろん、一人のハッカーや単なるハッカー仲間の集まりを超えて、組織的な研究開発が行われているという懸念や噂は絶えません。テロ組織、過激思想団体、政権転覆を狙う反政府組織。国際的な組織からローカルな組織まで、大小の様々な組織にそうした疑いの目はかけられていますし、一部はそれを公言したり技術の売買も行われているという話も聞かれます。

　また、各国の政府や企業や財団などの組織についても、秘密主義の度合いが高い組織は、過激メディアやSNS内では、秘密研究所の噂が定期的に流されます。もちろんそうした組織は国際ルールの遵守や監査や査察のシステムやプロセスに則ってクリーンであることを主張します。しかし疑おうと思えば伺えてしまえる秘密研究の噂は、一般人には検証は不可能です。事実か事実でないかではなく、信頼するか疑うかしかできないのです。

　非規制AIを巡る状況は、このように疑ったり心配するとキリがなく、前進も進歩もしない議論だけが延々と繰り返されています。

　政府やAI研究者は、事件が起きたり懸念が高まる度に、AI倫理条項の時代に沿った適切な見直し、AI規制の強化と取締りの厳格化を宣言し、実行していることを強調します。しかし、それはイタチごっこであり、問題の性質上、本質的な解決という事はありえません。

　この状況に多くの人々は既に慣れてしまっています。もちろん、熱心にこの状況の引き起こしている社会問題や将来リスクの議論や警鐘を鳴らすことに取り組んでいる人たちも少なくはありません。しかし多くの人は、大きな事件や事故が起きない限り、議論や心配をしても仕方がないというスタンスです。それが、一般的な大人の態度、という感覚が広がっていました。

<老人と少年>

　１２才の少年リクは、友人とサッカーで遊んだ帰り道、道で寝ていた身なりの良い老人を介抱し、彼の家に訪れることになります。

　老人の家には古いものから新しいものまで、様々なコンピューターが置かれており、その周辺の白板や紙には、様々な図形や数式やグラフのようなものが書かれています。

　尋ねると、老人はこんな話をするのでした。

　老人は、AIの研究者で、今は研究機関をリタイアしたので、自由に好きな研究をしています。昔から、仕事としての研究とは別に、ライフワークとして取り組んでいる研究があり、それに今は熱中していると言うのです。

　個人としての純粋な知的好奇心で、最小人為的カタストロフィコストの計測をするというのが、老人のいうライフワークです。

　首を傾げるリクに、老人は説明します。

　カタストロフィは大災害のことです。人為的というのは人が意図的に行うという意味ですから、もし、意図的に大災害を引き起こす方法があるとしたら、それを実現するのにどれくらいの人手と資金が必要になるかを計算します。

　それが何通りも方法があるとしたら、その中で、最も少ない人数で、かつ、少ない資金で達成できるのはどれかを考えます。それが、老人の研究だというのです。

　悪いことをしようとしているのかと、リクは率直に口にします。老人は不敵に笑います。別に自分が大災害を起こそうとしてるわけじゃない、と。

　例えば、と老人は少し考えます。空き地でサッカーをする時も、近所の家からどのくらい離れていればガラスを割って叱られずに済むか、わかる。それと同じように、危ない事が起きるまで、どのくらいかが分かるようになるのは、いい事なんだ、と。

　では人の役に立つ研究をしているんだね、というリクに、老人は首を振ります。自分はただ、こうした研究をする事が好きなだけだ、と。そしてこうも言います。この研究は、結果的には多くの人から恨まれるかもしれん、と。そう言って老人は、また強い酒を口にします。

　そうだな、と老人はリクのサッカーボールを杖で突きます。

　友達の中で、あまりサッカーが好きじゃないのに、数合わせで参加している子たちもいるんじゃないか、そう老人は尋ねます。

　サッカーが大好きなリクは、そんなヤツ、と言いかけますが、まぁいるかもと答えます。リクの頭の中に、３人ほど運動が苦手なサッカー仲間の顔が浮かびます。

　あくまでも仮の話だか、と老人はゆっくりと前置きしました。そしてリクに次のような説明をしました。

　その子たちが、二度とサッカーがやりたくないという理由で、何とかしてサッカーができないようにしようと考えたとします。

　すぐに、いくつかの作戦を思いつきます。

　サッカーをしている空き地を、どうにかして二度とサッカーができない場所にできないか。夜中のうちに、ボコボコの地面にしてしまうとか、忍者のマキビシのようなものをそこら中に埋めてしまうとか、近くの川の堤防に穴を開けて空き地を水浸しにするとか。

　そんな事をしたって、みんなで元に戻したり、別の空き地を探すよ、リクは口を尖らせます。

　なら、街中の空き地の土を、砂利に入れ替えるとか、全部花畑にするとか。

　そんな事できるはずないとリクは言います。できないわけじゃないさ、老人はニヤッと唇を曲げます。人手と資金があればな。

<本当の問題>

　そこからは、リクは口をへの字に曲げたまま、黙って口を挟まず、老人の挙げるサッカー妨害の計画案を聞きました。

　最初は空き地をいかにして遊べない場所にするかという話でした。それが、次にサッカーボールを割ったり新品を手に入れられなくする計画案の話になります。かと思えば、仲間割れを起こさせてメンバーが揃わないようにする計画案や、暑さや寒さで外で遊べなくするかなり無理のある作戦の話も飛び出します。

　更には、あくまで仮の話だぞ、と再度念を押してから、リクや仲間たちに酷いことをする案まで言い出すのです。

　普段どんな事をしていたら、こんなに悪いことをスラスラと思いつくのかと呆れつつ、やっぱり悪い人なんだと心の中でリクは呟きます。

　老人の方も、いろんな計画の考案にすっかり夢中になっていたことに気が付き、少し気まずそうに咳払いをします。

　こんな感じで、どれが一番、人手と資金が少なくて済むか、それを研究するのだよと、老人は小さく言って、口を閉じます。

　リクは、老人の話を少し思い返します。サッカーの事はもちろん例え話なので、これを大災害、カタストロフィに当てはめて考えているということは理解できました。老人の顔色を伺いながら、リクは尋ねます。

　実際、人間の力で、大災害をどうやって起こすの、と。それは教えられん、老人はすぐに返事します。

　じゃあ、どれくらいの人数とお金が必要なのかと、リクは質問を変えますが、老人は、首を振ります。

　あっ、とリクは何かに気が付きます。もしかして、それを考えさせるために、AIの研究をしているのか、と。リクから見れば、老人も十分頭が良さそうだけれど、もっと頭が良いAIだったら、もっとすごいアイデアを思いつきそうです。だとすれば、老人がおもいつく計画案よりも、もっとずっと少ない人数と少ない資金で、大災害を起こせてしまうようなアイデアが思い浮かぶに違いありません。

　リクは少し迷いましたが、意を決してその理解が正しいのかを老人に尋ねます。老人は少し感心したように、リクを見つめ、ゆっくりと頷きました。

　「怖くないの？」リクは素直にそう聞きます。

　「ああ、怖くない。そうだな、怖くないのが、本当の問題なんだよ。」

　そして、悲しそうな目でこう言います。

　「心配するな。まだ、しばらくは大丈夫だ。」

＜少年のその後＞

　「今のは良かったぞ、その調子だ」

　拾い上げたサッカーボールを投げかえしながら、リクは嬉しそうに声を掛けます。

　「もう疲れたー。帰ろーよー」

　時計を見ると、もう5時近く。河原で遊んでいた他の子どもたちも、いつの間にか少なくなっています。リクはボールを拾い上げ、今日はここまでだなと、息子の頭をクシャッと撫でます。

　息子にサッカーを教えるようになってから、すっかり忘れていたあの老人の事を、リクは時々思い出すようになりました。先日、あの家のあった場所を久しぶりに見に行きましたが、当時の建物はなく、大きなマンションに変わっていました。

　あれから、二十年。あの頃は夢の技術だと思われていたAIも、すっかり生活や職場に溶け込み、今やなくてはならない家族やパートナーです。

　AIの進歩や、AIが関与している事件のニュースを耳にする度に、あの老人の話を思い出して、リクは少し考え込んでしまいます。先日も、よその国でAI達が大規模なハッキングにあったというニュースを聞きました。AI規制の網を巧妙に避けて、未知のAIとAIウイルスをばら撒いていた犯人は、なんの手がかりも残していないのだそうです。

　恐らく捕まらないだろうと専門家たちは冷静に分析しているようでした。その話がリクの職場で持ち上がった時、心配そうにする若手社員を、周りの同僚たちは笑っていました。いちいち心配しても仕方がない、それが、一般的な大人の態度というものなんだよと。

　あの老人が、まだ大丈夫だと言いながら見せた悲しそうな顔は、もうぼんやりとしか思い出せません。あれから２０年が経ちました。リクは思うのです。もしも今尋ねたら、一体どんな顔をするのだろう。そして、今は、最小人為的カタストロフィコストとやらは、一体どれくらいまで来ているのだろうか、と。

　怖くないのが本当の問題だ、そう言っていた老人の言葉が、今のリクには響きます。確かに、怖くないのだ。何かが、近づいてきているのかも知れない。技術が進歩すれば、あの老人の話からすれば、それだけ近づいているはずなのだけれど、恐怖心も実感もない。そうやって、何の心の準備もないまま、その日が来てしまうのかも知れない。

　息子にも、あの老人がしていた話を伝えるべきかもしれないと、時々リクは思います。しかし、すぐにその考えを頭から振り払います。もしも、どうして父さんは何もしなかったのかと、息子が無邪気に質問してきたら、答えに窮してしまうに違いありません。きっと問題ないと思ったから、そんな言い訳をしている自分を、想像したくないのです。あの老人も、強いお酒を飲んでいなければ、リクにあの話をしなかったのかもしれません。

　何気なく、息子の肩に手を置いて、リクは思います。自分には何もできないけれど、この子が大人になる頃までは大丈夫だと、誰か言ってはくれないだろうか。

　その時、リクの息子はため息交じりに、ポツリとこう呟きます。

　「あ～あ、やだなぁ。明日のサッカー大会、どうにかして中止にする方法ないかなぁ」

おわり。