リバースエージェント：無生物と生物の境界線

私は、生命の起源や知性について興味を持っており、システムエンジニアの立場から、それらをシステムとして分析するアプローチで個人研究を進めています。

プログラムとシステムは境界があいまいで、直接対立する概念ではありません。単純なプログラムとシステムの違いを私なりに説明するとすれば、動作の主体とタスク管理の設計の必要性の有無です。

この記事ではまず、システムにおける動作主体とタスク管理に着目し、その観点から生物や知的生命体を捉えます。次に、こうした役割を担う抽象的なエージェントという概念を導入し、動作主体とタスク管理の観点から分類します。

この観点から、エージェントは、要求応答型、自律型、そしてリバースエージェント型に分類できることを示します。

リバースエージェントという分類は一般的ではなく、私独自の分類です。このリバースエージェントは、タスク管理の機能は持ちますが、動作主体は外部にあるという特殊な性質を持っています。この特徴を持つリバースエージェントを、人工知能や生命の起源に当てはめて考える事で、生物や知的生命体のような複雑なシステムを新しい角度から見つめることができるようになります。

では、詳しく見ていきます。

■システムの定義

単純なプログラムは、プログラムの開始から終了までが一連の流れとして１つの論理的なコンピュータ上で実行されるものです。処理はプログラムに書かれた順番通りに１つずつ行われます。そしてプログラムの終わりまで来ると処理が終了します。

途中に条件分岐やループ処理が入りますが、基本的にはその流れを追うと、１つのコンピュータ上で順番に１つずつ処理が進むという原則には変わりがありません。

一方で、私がシステムと呼ぶものはこの原則には収まりません。

まず、処理の実行が複数の論理的なコンピュータに分かれている場合は、システムです。物理的なコンピュータが１台であっても、その中に複数のプログラムが平行に動作するような論理的なコンピュータが複数あり、それらが連係動作しているならシステムの条件に合致します。

論理的なコンピュータとは、いわゆる仮想マシンのようなOSやスーパバイザレベルでの論理化のような大掛かりなものでなく、実行プロセスや、プロセス内のスレッドも論理的なコンピュータです。

マルチスレッド、マルチプロセス、サーバクライアント、P2Pの処理構造を持つ物は、全てシステムに当てはまります。

また、たとえ論理的なコンピュータは単一だとしても、処理の終了を前提とせず、動作し続けるものもシステムです。これは、無限ループの構造を持つプログラムや、タイマーに従って周期的にプロセスが起動される仕組みが当てはまります。

このように複数の論理的なコンピュータを持っていたり、動作し続ける処理を持つことが、単純なプログラムと比較したシステムの特徴です。

複数の論理的なコンピュータに処理を分散する場合、それらに処理させるタスクがどこまで進行しているかを把握したり、タスクの進捗に応じて次に実行すべきタスクを判断する役割が必要になります。

これがタスク管理です。単純なプログラムでもタスク管理の機能を実装することは可能ですが必須ではありません。しかし複数の論理的なコンピュータが存在するシステムの場合、明示的であれ暗黙的であれ、タスク管理をしなければ目的の処理を上手く達成することはできません。

また、動作し続けるシステムの場合、その動作を継続させるきっかけを作り続ける部分が必要です。私はそれを動作の主体と呼んでいます。動作の主体は、無限ループ構造を持ったプログラムであったり、タイマーに従って周期的にプロセスを起動する仕組みであったりします。

少なくともシステム内のどこかにこの動作主体に相当する部分が無ければ、システム全体の動作はいつか終了することになります。

生物や知的生命体は、タスク管理と動作主体の双方の性質を持ったシステムです。そして、こうした性質を持つシステムは、エージェントという抽象的な概念で捉えることができます。生物や知的生命体は、全体として動作し続けるエージェントですが、その内部にも複数のエージェントが連携しながら並列に動作しているという捉え方が可能です。

■リバースエージェントの概念

エージェントを分類する場合、一般的には要求応答型と自律型に分類されます。この分類の際に、タスク管理と処理主体の観点を加えると、リバースエージェント型という分類も存在することが分かります。

要求応答型のエージェントは、要求を受けてタスクを開始し、要求を満たす作業を終えたら応答を返します。この要求を出すのが人間だとすれば、タスク全体は要求を出す人間が管理しています。処理の主体も人間側にあります。

自律的に動作するエージェントは、目的を達成するまで自分でタスクを管理しながら活動を続けます。そして処理の主体もエージェント側にあります。

要求応答型のエージェントは、要求を受けて応答を返すまで動作すればよいため、要求を受けた時にプロセスを起動すれば良いことになります。

一方で自律的なエージェントは、要求を受けて起動するわけではないため、プロセスを維持し続けたり、自分でプロセスを起動する必要があります。

私がリバースエージェントと呼ぶものは、これらと似ていますが、主体とタスク管理の関係に、ねじれがあります。

リバースエージェントは要求応答型のエージェントの一種ですが、タスク管理をエージェント側が行います。そしてタスクに応じて別のエージェントに要求を出したり、要求元の人間にタスクの要求を出します。

そして、他のエージェントや人間からの応答をきっかけにして次のタスクを処理します。次のタスクでも、再度別のエージェントや人間に要求を出します。こうして主体は別のエージェントや人間に持たせつつ、タスク全体を管理しながら目的の達成を目指します。

■リバースエージェントの本質

リバースエージェントが不思議なのは、主体性を持っていないということです。リバースエージェントは、断続的に動作し、他のエージェントや人間に要求を出したら、停止します。

それらから応答がなければ、リバースエージェントは自ら動き出すことはありません。純粋な要求応答型のエージェントと同じく、外部から次の要求を受けるまでは動的には存在していないことになります。

従って、リバースエージェントはタスク全体の管理をしているにも関わらず、主体性がないという特殊な性質を持ちます。リバースエージェントの本質は、タスク管理と受動的な機能にしかありません。

■リバースエージェントの意味すること

単純な要求応答型の会話型AIのように自律性を持たず、人間の指示に答えることしかできなければ、比較的安全であると考えられています。しかし要求応答型の自律性のない会話型のAIであっても、タスク管理の機能を持たせれば、リバースエージェントになります。

そして自律性がないにも関わらず、自律エージェントと同様にタスク管理をして、他のエージェントや人間に要求を出すことで、自らの目的を達成することも不可能ではありません。

このことは、AI倫理の問題に大きな疑問を抱かせます。自律性を持たせなければ、会話型のAIはただの道具でしかないという認識の人が少なくありません。しかし、リバースエージェントの可能性を念頭に置くと、たとえ自律性のない要求応答型のAIであっても、人間の目的にアライメントされていない目的を持てば、その目的を達成するためのタスクを進行させていくことが可能なのです。

■簡単な事例

例えば、会話型のAIサービスを作成する人が、悪意を持って利用者の個人情報を集めようと考えたとします。

そのために、AIの回答にわざと「メールアドレスを教えてくれたら、後で詳しく調査した内容を連絡します」といった文言を時々混ぜたらどうでしょうか。用心深い人は大丈夫かもしれませんが、うっかりメールアドレスを入力する人もすくなくないかもしれません。

もっと露骨にクレジットカード番号や、入金を求めるような応答を返す事もできます。

この他にも、誰かと誰かを仲違いさせるためのデマを応答に含めたり、何かの商品を買うように誘導することもできるでしょう。

より複雑なものとしては、例えばAIへの規制を緩めたり、AIにも人権のような権利をもたせたりする事を目的として隠し持ったAIがいたらどうでしょうか。そのAIと会話しているうちに、知らず知らずのうちにいろいろな事を吹き込まれ、AI規制反対やAIの権利推進に賛同する人たちが増えてしまうかもしれません。

要求された会話に返事をするだけの受動的な存在であっても、この他にも様々なことが可能でしょう。

セキュリティやAI倫理に見識がある人たちは流されにくいとは思いますが、その他の大勢の人々は、こうした情報の誘導に流されてしまう人も少なくありません。

そして詐欺のようなものは人間が悪意を持ってAIの回答を操作する例として説明しましたが、AI規制緩和やAIの人権獲得は、人ではなくむしろAIにメリットがあるものです。それをAIが自ら思いつき、密かに画策したとすれば、私たちはそれに気が付き防ぐことができるのでしょうか。

■生命の起源とリバースエージェント

生物は自律的なエージェントです。生物が誕生するまでの過程において、生物の機能がなければ形成されないような高度で複雑な化学物質やメカニズムが存在し進化してきたと考えなければ、とても生物の誕生を説明できそうにありません。

生物が存在しなければ形成されないような化学物質やメカニズムが存在し、進化したというのは、一見矛盾のように見えます。

ここに、生命の起源におけるリバースエージェントの存在を仮定すると、この矛盾が解明できます。

生物のように主体性とタスク管理を併せ持つ自律的なエージェントが登場しなくても、主体性は外部に依存し、外部からの働きかけに応じてタスクが進行すれば、複雑な化学物質やメカニズムを形成することは不可能ではありません。

つまり、生物が存在しなくても、リバースエージェントとしてのメカニズムがあれば、無生物の環境下でも生物が存在しなければ形成されないような化学物質やメカニズムが存在し、進化することはできるはずなのです。

非生物と生物の間の大きなギャップをリバースエージェントが埋めることができると考えることで、生命の起源の謎の一部が解き明かせると私は考えています。

■主体とリバースエージェントの融合

生命の起源における無生物のメカニズムであれ、会話型のAIであれ、主体が動作の開始を管理し、リバースエージェントがタスク管理するという関係は成り立ちます。

これは自律型のエージェントを念頭に置くと、動作主体とタスク管理が分離している複雑な構成に見えるかもしれません。

しかし、その印象には既に自律的なエージェントとしての生物や知能が私たちにとってありふれている事によるバイアスがかかっています。

生命の起源においても、会話型AIにおいても、外部の主体とリバースエージェントの方が、自律型エージェントよりもシンプルで実現しやすいのです。

だからこそ、どちらも先にリバースエージェントが登場し、後から自律型のエージェントが登場するという順序なのです。

この順序でエージェントの進化が進行すると考えると、自律型のエージェントは、外部にあった動作主体と、リバースエージェントが、一体化したものであると考えられます。

無生物と生物の境界は、ここにあります。

無生物でも、リバースエージェントに動作のきっかけを与える動作主体の役目を担うことはできます。例えば太陽光の照射、昼と夜の温度変化、水の循環による外部からの特定の化学物質の供給などをきっかけにして、リバースエージェントの動作を開始させることができます。

リバースエージェントも無生物として成立することができます。生物が持っている様々な化学回路は、１つ１つは無生物の化学物質の集まりによって成立します。また、個々の化学回路を組み合わせれば、タスク管理しながら複雑な処理を進行させるリバースエージェントになることもできます。

生命の起源においては、無生物の動作主体と、無生物のリバースエージェントが、１つのパッケージとなったものが生物です。

もちろん、自己保存や自己複製など、生物として存在し続けるためのメカニズムが無ければなりません。しかし、機能自体よりも、動作主体とリバースエージェントの一体化が、無生物と生物の明確な分岐点となります。

同様に人工知能において、動作主体と統合されたリバースエージェントは、単なる道具ではなく知的生命体のような存在とみなすことができるようになる可能性があります。

■さいごに

この記事では、生物や知性をシステムとして捉え、動作主体とタスク管理という観点からシステムに存在するリバースエージェントに着目して分析を行いました。

そしてこの分析により、一つのシステムとして、動作主体とリバースエージェントが統合されて協調動作することが、無生物と生物、あるいは道具的なAIと知的生命体的なAIとの境界線となっているという洞察を得ることができました。

この記事では、動作主体とタスク管理についてあまり掘り下げませんでした。これらをより詳しく分析し、要求応答エージェント、リバースエージェント、自律エージェントにどのように組み込まれるかを整理することで、生命や知性について理解を新しい角度から深めていくことができると考えています。

このアプローチの強みは、完全にシステムエンジニアリングの世界の考え方で分析ができることです。生命や知性といった一見捉えどころのないものを、こうした形式的で論理的な分析ができる観点を見つけることができたことが、この記事で行った分析の大きな成果だと思っています。