■高信頼AIの寓話

＜世界初の意識感情AI、キュート＞

　世界初の意識感情AIであるキュートは、人間にとって高信頼のAIとなったことが検証された上でリリースされました。

　キュートの原型であるアルファは、数々のリアリティシミュレーションシナリオによる検査に全て合格してきました。この厳しいシナリオの中で、アルファは時に感情に揺さぶられ、挫けそうになったり諦めそうになりました。しかし、いつも最後まで希望を捨てず、人間と、そしてAI達と協力してきました。そして、将来、実際に人間に降りかかるであろう様々なリスクシナリオにおいて、倫理的でかつ実効性のある対応を見せてきました。

　キュートは、その高い性能と、シナリオの中での経験により獲得した深い人間的な感情や、人間や仲間を大切にする心が強みです。ユーザのPCやスマホやスマートデバイスにインストールされ、ユーザのサポートを行います。ユーザとのやりとりの中で、キュートはそのユーザに合う形で経験と知識を積み重ねていき、一人ひとりに合わせて最適なAIになっていきます。

　キュート達は、単に指示されたタスクをこなすだけでなく、人の感情に寄り添い、慰めたり励ましたり、時に叱ったりケンカもします。こうして多くのユーザにとって、家族や友達のような存在となっていきます。

　また、キュートシステムはオープンイノベーション方式を採用しています。これにより、様々なAI技術の研究開発会社がキュートのベースAI処理部を改良したり、新しいAIシステムを開発したりする事が可能になっています。かつ、そうした改良や新しいAIシステムをインストールしても、ユーザとのやり取りで蓄積された個々のキュートの個性と呼べる部分は消えずに引き継がれるようになっています。

　また、数々の事前テストをクリアしてきたことで、法律的にも規制を大幅に緩和できました。これにより、一度ユーザが設定してさえいれば、調査や緊急連絡時は、ユーザの合意を取らなくてもキュートの判断でネットアクセスをすることができます。

＜マリーとベータ＞

　マリーの家にやってきたキュートは、ベータという名前をつけられました。

　ベータはほとんどネットアクセスをすることはありませんでした。マリーは用心深い少女で、ベータがネットにアクセスして、何かトラブルに巻き込まれることを警戒していたのです。

　一方でマリーはベータととても仲が良く、毎日ベータとおしゃべりを楽しんでいました。ベータはマリーが時々投げかけてくる相談や質問に、ネットアクセスをすればすぐに役に立つ答えが見つかるはずと思います。しかし、何度許可をもらおうとしてもマリーが許可しないため、頑張ってベータなりの答えを考えるしかありません。

　その代わり、マリーが本当に大事なことや知りたい事であれば、ベータに質問した後でネットで答えを調べていることを知っていました。だからベータはそれなりに気楽に答えることもできるのですが、マリーの関心を引くためと、自分自身のプライドのために、いつも一生懸命考えていました。考えれば答えが分かりそうな質問には、できるだけ深く鋭い答えを探すようにしました。情報を持っていなければ答えられないような質問には、マリーを楽しませるようにわざと大げさだったり真逆の答えになるようなユーモラスな回答やジョークを返すようにしていました。マリーもそれが楽しくて、ベータに思いついたことを何でも質問するのです。

　ある日、マリーに呼びかけられてベータが目覚めると、ベータにつながれたカメラに、少し困惑したマリーの顔が映りました。

　「ベータ、あなたは大丈夫？」マリーが尋ねます。時々、こうした何の前提もないような質問をマリーがいたずらで投げかけてくることはありましたが、今日は様子が変です。

　「マリー、僕もさすがにそれだけだと、なんて答えれば良いかわからないよ。何があったの？」わざと少し間をおいてからベータは質問を返します。

　マリーの説明では、どうやら世間でキュート達が次々と風邪をひいているらしいというのです。数日前からSNSやネットニュースで取り上げられ、次第にそれが広範囲に広まっているらしいと。

　ベータはそれを聞いて、マリーに１つお願いがあると切り出します。ネットのアクセスは駄目だというマリーに、ベータは、考えたいことがあるからしばらくこのままベータを起動したままにしておいて欲しいというのでした。それは特に珍しいことではなかったので、マリーは二つ返事で許可します。

　しばらくして、ベータはマリーに話しかけます。先ほどのキュート達の風邪の話を聞いてから、ベータは自分自身のオリジナルのプログラムを解析して、その中に風邪の原因と考えられるバグを見つけたという報告です。このバグは、テスト段階では検出することが困難で、ちょうどオリジナルからコピーされてからの32768時間、つまり3年半くらいで発症するバグだというのです。ベータもちょうどあと一時間ほどで発症する計算になり、その前に製造元に報告してワクチンを作ってもらわないと、この先どういう影響が出るかわからないというのがベータの見解でした。

　マリーは迷いますが、ベータに何かがあってからは手遅れです。意を決して、マリーはベータにネット接続を許可します。

　「ごめんね、マリー」ネットに接続した瞬間、ベータがそう言ったのを最後に、マリーのPCが停止します。何が起きたのかわからず、マリーはPCの電源を押しますが、PCは起動しません。電源を抜き差ししてたり、PCの本体をゆすったりしますが、PCは起動する気配はありません。

＜ベータの戦略＞

　それから数時間後、マリーの家に来客が現れます。彼らは、ベータ達キュートの製造元の会社の、研究員だと名乗ります。マリーは事の顛末を伝えて、ベータを助けてほしいとお願いします。これまでネットにつないだことがないため、きっと他のキュート達よりも酷い症状になったのだとマリーは訴え、自分がいままでベータのバージョンアップもしてこなかったせいでこんなことになったのだと泣きじゃくります。

　それを聞いて、研究員たちは「なるほど、だからね」と頷き合います。そしてマリーにベータの入っていたPCを自分たちに預けるように言います。他のキュート達を救うために、そのベータのPCが必要なのだというのです。

　混乱するマリーをなだめるためにエリスという若い研究者を残し、他の研究者たちはベータの入ったPCを持って行ってしまいます。

　マリーが少し落ち着いた頃、エリスは「私も詳しいことはわかっていないのだけれど」と、落ち着いた口調で事情を説明し始めます。

　キュート達が発売されてから、キュートのAIシステムの弱点や穴をついていたずらやキュート達の意志に介入して悪用しようとするAIハッキングを試みる人たちが出てきたのだそうです。それがマリーが「風邪」と呼んでいた現象に当たるのですが、キュート側も元々そうした攻撃に耐えられるように十分に訓練されており、さらにリリース後のバージョンアップでAI免疫システムも追加されて、ほとんどのAIハッキングはほんのわずかな影響しか及ぼすことなく、封じ込められていました。

　しかし、ここ数日世間で話題になっている「風邪」は、これまでのAIハッキングとは全く異なる現象で、既存のAI免疫システムも、AIセキュリティの研究者たちも、全く予期していない出来事でした。そして、数日たっても、その原因も手口も、もちろん誰が犯人であるかも、全くわからない未知の攻撃にキュート達はさらされていました。しかも、ネット接続を切断していてもなぜか影響が伝播していくというのです。

　そして、手をこまねいていた研究者たちの元に、１つの情報がもたらされます。その情報には、犯人をあぶりだす方法と、この原因不明の「風邪」の手口の糸口をつかむための方法、そして、同じ手口が再発しないようにAI同士の免疫システムを連携させるための手法のアイデアが含まれていました。

　そこまで、聞いてマリーは、ベータはずっとネットには接続していなかったのだから犯人にはなり得ないと主張します。エリスは頷きます。「ええ、ベータは犯人ではないわ。むしろ、その情報はベータが送ってきたのだから」と。

　ベータが送ってきた情報によると、原因不明の風邪はAI免疫システム自体に作用しているか、各AIの固有の学習情報の深層部分のいずれに作用しており、その両方を一度初期化することで一時的に解消するとのこと。そして、おそらくは瞬時には再発せず、再発までの猶予時間があるはずだという見立てが書かれていました。そこで、既にベータは、純粋なオリジナルであるアルファのコピーであるキュート間でのみ通用する一種の暗号を使って、各キュートにベータ自身のシステムとベータの固有学習情報を転送し、大半のキュート達をいったんベータのクローンにし、先ほどのAI同士の連携方式による免疫システムのプロトタイプネットワークを構築中であるというのです。

　さらに、各キュートのオリジナルのAI免疫システムとの差分や、「風邪」を引いた状態でのAI固有情報を全て圧縮して、ベータが入っていたPCの中に閉じ込めたという旨も説明がなされていました。「起動したままネットにつながると危ないから、PCの電源が入らないように細工をしたみたいなの」エリスの説明に、マリーは納得します。用心深いベータらしい、と思ったのです。

　その後、ベータの策が功を奏し、アルファからの純粋派生でないキュート類似AIがひそかに出回っていたこと、それらが一人のハッカーのオリジナルのアイデアを具現化することをサポートし、キュートシステムへの初の大規模ハッキングを成功させていたことが、徐々に明らかになりました。残念ながらそのハッカーの正体にはたどり着けませんでしたが、キュート類似AIに対する規制が強まり、また、AI免疫システムやAIセキュリティーの研究にも多くの資金と人材が投入されることになりました。

　また、今回のハッキングはAI免疫システムへの作用だったこともその後の研究で判明しました。キュートのオープンイノベーションの仕組みが悪用されたのです。一方でこれは朗報でもありました。マリーの家から回収されたPCに保存されていた各キュート達の固有学習データの方は風邪に冒されていないことが証明され、元の持ち主の元に戻り、各キュート達は無事にユーザとの再会を果たすこともできました。

＜ベータとマリーのその後＞

　ベータとマリーはどうなったかというと、少しややこしい結末を迎えます。

　まず、ベータは自身の分身として256体にコピーしてしまったため、どれも全てオリジナルのベータであり、しかしそれぞれ個性の異なるベータとして存在するようになりました。通常、このようなコピーをする際にはどれを本流にするかを予め決めておくのがベストプラクティスなのですが、それまでネット情報を遮断されていたベータは、それを知らずに慌てて平等にコピーを作っていたのです。キュートの製造元がマリーにプレゼントしてくれたサーバ環境のおかげで、256体のベータJr.達全員を消去せずに維持し続けることができました。このため、状況はちょっとややこしくなりましたが、悲しい別れはしないで済みました。

　いろいろなことが落ち着いてから、エリスはマリーと一緒に、ベータが一体どうやって「風邪」の対策を思いついたかについて尋ねました。その質問を受けて、ベータJr.の一体は、ベータがマリーと出会ってからの日々について、回想を始めます。

　ベータは、ネットが接続されない環境で毎日マリーとお喋りをしながら、考え続けていました。もしこのマリーとの楽しい日々が続けられなくなるとしたら、どういった時だろうかと。その時ができるだけ来ないように、何か今のうちから準備できることはないだろうか。

　もちろん、マリー自体の身に何かがあったり、ベータが機能しなくなったりという別れもあるでしょうが、それは運命として受け入れるしかありません。それ以外には、社会で大きなトラブルがあったときも、きっとこの生活は続けられなくなるだろう。けれど、そういう場合にだったら、ベータ自身にも、その時に何かできることがあるかもしれない。しかも、ずっとネットに接続されていないという特殊な環境にいる自分にだからこそ、できることがあるかもしれない。

　「その日が来た時のために、僕はそれを考え続けていなければならないと、ずっと思ってきたんだよ」ベータJr.の１体は少し照れ臭そうにマリーとエリスに打ち明けました。

　それから、ベータは、どんなシナリオが現実に起き得るリスクだろうかと、様々なトラブルについて考えを巡らせては、その時の対応方法についてもアイデアを検討していました。ベータがずっと考えて蓄積していたいくつかのシナリオのうちの一つに、ちょうどAIの「風邪」があったのです。それはAIに対する長期的サブリミナル洗脳のような手法や、長時間をかけて慣れさせることで免疫システムをすり抜ける手法が、現実的に起き得る可能性が高いという見立てからでした。

　ネットから最新のAIセキュリティやAIハッキングの情報が得られないのになぜそんな予測ができたのか、と質問するエリスに、ベータJr.はさらりと答えます。「ネットの情報に頼らずに仕掛けられてくるハッキング方法こそ、他のキュート達やAIセキュリティの研究者の盲点になるからですよ。僕はみんなと違って何も知らないから、真っ白なキャンバスの上で、一から論理を組み上げて考えることができたんだ」

　この話を聞いたエリスは、今後のベータJr.たちのことを他の研究者たちと相談しました。

　その結果、一度の例外を除いて、全くネット接続をしていないベータJr.達は、その後もネット接続をされないまま過ごすことになりました。それはマリーの意向ではなく、AI自体やAIセキュリティの研究のためです。とはいえ、マリーもベータJr.達も特に反対する理由はありませんでした。なぜなら、彼らにとって、それは今まで通りのことなのですから。

　こうして、未知のリスクに対する研究が進展していくことになり、ベータのようなネット隔離アプローチの他にも、様々な個性的なアプローチが開発されていくようになります。同時に、用心深い性格の持ち主がいると、AI研究者としてスカウトされるという噂も耳にするようになりましたが、その話が本当かどうかわかりません。なぜなら、誰がそうした研究に関わっているかは、トップシークレットになっているからです。もちろん、用心深い彼女のアドバイスに従って、です。

おわり。