下西風澄「沈黙するAI、沈黙しない生命」（20 Oct. 2023） （「DISTANCE.media」）
☆mediopos3262 2023.10.23
北海道でこの７月
国際人工生命学会が開催され
議論が交わされていたそうだ
昨今話題の
人工知能 AI（Artificial Intelligence）
と研究領域の近い
人工生命 ALife(Artificial Life）の研究である
人工知能研究者は
人間のような知能を
コンピューターでつくりだそうとし
人工生命研究者は
自然の進化が生み出すような
終わりのない(=オープンエンドな)自律的な進化を
コンピュータで実現しようとしている
下西風澄の「沈黙するAI、沈黙しない生命」は
そのAIとALifeに関する現時点での考察である
下西氏は「ChatGPTと会話を続けるうちに、
どこか凡庸でつまらないという感覚を抱くようになった」
その理由のひとつは
ChatGPTは確率モデルで動くため
「ごくごく平均的な答えを返す」こと
もうひとつは「事前学習段階において
大きな倫理規制がかけられている」こと
そしてもっとも大きな理由は
「尋ねたことには優秀な答えを返すが、
自分で何かを聞こうとはしてこない」ことだという
「ChatGPTは入力さえ与えなければ
なんの出力も行わない」のである
ChatGPTと「対話」しているようでも
それは人間と人間の「対話」ではない
ChatGPTに入力を与えないとき
「沈黙」したままだが
人間の「沈黙」とはまったく異なっている
「人間同士で会話しているとき、
一人が黙るともう一人はなにか聞いてくるだろう」
「沈黙はコミュニケーションの断絶ではなく、
それそのものがまたひとつのコミュニケーション」であり
「「沈黙」そのものが重要なメッセージになる」のである
人間同士の会話ではないが
遠藤周作に『沈黙』という小説があり
「神」は「沈黙」しているが
その「沈黙」は入力がないとき
ChatGPTが出力を行わないような「沈黙」ではない
ChatGPTとは異なり
「「入出力」を前提としない、
勝手に動き出す「自律性」を有した
人工生命が存在するとすれば、
人間が黙っていてもそれは勝手に
なんらかの出力を行い続ける」
その点でいえば
入力がなければ作動しない
「管理されたシステム」であるAIは
人間が働きかけなければ暴走はしないが
人工生命であるALifeは
「管理不可能なエージェント」であり
「自律性」を有するがゆえに
暴走し制御不可能になる可能性を持っている
AIよりもむしろALifeの危険性に
今後注視していく必要があるだろうが
まずは私たち人間が
AIのように
与えられたこと教えられたことをそのまま入力し
それに対して決められた応答しかできなくなる
「自分で何かを聞こうとはしてこない」解答マシンには
決してならないようにすることが求められる
■下西風澄「沈黙するAI、沈黙しない生命」（20 Oct. 2023）
（「DISTANCE.media」〜「＋ISSUE1特集 ALIFE 生命とAIのあいだ」より）
（「ALIFE2023」より）
「ChatGPTの登場によってAIが世界を騒がせている2023年。北海道ではALIFEに対する静かな熱が渦巻いていた。北の大地には似合わない、うだるような7月の猛暑。7月24日から一週間にわたって、北海道大学で開催されていた国際人工生命学会には世界中から研究者たちが集まり、汗をかきながら一日中議論を続けていた。人工知能研究とも研究領域は近く、時に交差しあっている人工生命研究だが、両者が求める知性や生命の本質的な違いとはなんだろうか。
大規模言語モデル（LLM）のGPT-4は、人間の知性に匹敵するような振る舞いをしている。GPTのベースとなったTransformerをはじめ、ニューラルネットワークは人間の脳の神経細胞をモデルとしているが、現実の神経細胞ネットワークと比べるときわめて単純化されたモデルでしかない。それにもかかわらず、ChatGPTはおそらく人工知能と人間を区別するリトマス試験紙である「チューリングテスト」をクリアし、人間の心の特徴であるとされている「心の理論（Theory of Mind）」を備えているということも確認されはじめた。人類が夢見た「人工知能」はかなり人間知性に接近しているように思える、ある部分では完全に凌駕している。実際に、文法を事前に教えることなしにナチュラルに自然言語を話し、また時に高度な議論からプログラムの生成までやってしまうChatGPTの登場は、機械の歴史においてもエポックメイキングであり、驚嘆すべき技術でもある。ChatGPTが確率的に生成される言語を話しながらチューリングテストをクリアしている事実をみると、もしかすると僕たち人間も実は「私」に固有の「内面的」な思考を表現するために話しているのではなく、単に確率的な言葉を場当たり的に話しているだけなのかもしれないとすら思えてくる。」
（「凡庸なChatGPT」より）
「しかし僕はChatGPTと会話を続けるうちに、どこか凡庸でつまらないという感覚を抱くようになった。便利な道具として利用することは多いが、GPTと仲良くなったり、議論したりしたいという気持ちにはまったくならない。一緒に詩を書いてみたりもしてみたが、どうも長く続ける気にはならない。ありていに言ってしまえば、知的なパートナーという感覚を抱くことができなかった。それにはおそらく三つの理由がある。
第一に、確率モデルで動くChatGPTは基本的には統計的に計算された多くの場合、ごくごく平均的な答えを返す。第二に、事前学習段階において大きな倫理規制がかけられている。そして第三に、尋ねたことには優秀な答えを返すが、自分で何かを聞こうとはしてこない。この第三の点こそ、AIとALIFEを分かつ大きな基準（クライテリア）であると同時に、計算的知性と人間知性の本質的な違いに思える。
たとえば人間同士で会話しているとき、一人が黙るともう一人はなにか聞いてくるだろう。「どうして黙ってるの？」「なにか考えてるの？」など、そこで新たなコミュニケーションが発生する。黙っていることは、実は怒っていることの合図かもしれないし、突如として深い思考へと誘われてしまった様かもしれない。沈黙はコミュニケーションの断絶ではなく、それそのものがまたひとつのコミュニケーションだ。人間においては「沈黙」そのものが重要なメッセージになる。」
（「生命の条件─入力と出力」より）
「チリの生物学者フランシスコ・ヴァレラ（1946-2001）は、『生物学的自律性の諸原理』（Principles of Biological Autonomy）（1979）のなかで、生命の本質とは「自律性」だと言った。生命は勝手に動いている。生命はなんらかの入力があったからそれに応答して出力を返しているのではなく、常になんらかの運動・行為を継起させている。勝手に動いているなかでなにか出来事があればそれに反応するのであって、出来事が生じたから動くのではない。
ヴァレラが師のウンベルト・マトゥラーナと提唱した生命論「オートポイエーシス（Autopoiesis）」は生命の本質的な原理をつかもうとした理論で、その定義には「システムには入力（インプット）も出力（アウトプット）もない」という語義矛盾のような項目がある。直観に反するようなこの定義のせいで、どこか神秘的な思想のように捉えられることもあるが、実はこのテーゼは単純なことを主張しているし、それはAIの特徴と対比してみるとより理解しやすいかもしれない。なんらかの入力に対してなんらかの出力を返すAIとは異なり、生命の基本的な特徴が自律性だとすれば、生命は動き続けている。入力がなければ動作しないAIとは異なり、絶えず運動している生命にとっては、何が入力で何が出力であるかという根本的な区別が不可能なのだ」
「僕たちが生命や意識のシステムを入出力のモデルとして理解しようとするのは、それが最も限定され、単純化され、観測しやすい状況であるからであって、むしろシステムを入出力として理解するために単純な状況を想定していると言ってもいいだろう。ChatGPTとの会話はその意味でAIの典型的な振る舞いをよく表している。だが人間におけるリアクションとは、入力に対して出力を返すことではなく、持続的なコミュニケーションのなかの反応のひとつだ。
あるいは、たとえ生命のリアクションが入出力だったとしても、生命には絶えず入力と出力が持続していて、これが絶えることはない。沈黙ももちろん入力のひとつだし、ちょっとした気温の変化、姿勢による疲れ、夕方になって光量が落ちること、会話している相手の目線の変化、お腹が空いて胃が動くこと。これら全てが生命にとってはなんらかの刺激（入力）であり、明示的に記号化できないあらゆる入力が無限に生命に流れ込んでいると同時に、それに対するなんらかの出力としての反応がある。さらに言えば、なんらかの出力そのものもまた、生命にとってのなんらかの入力である。人間は自分で話した自らの声のトーンに反応し、調子を整える。予め決められたメッセージを外部に出力するのではなく、出力の行為そのものがまたなんらかの刺激として自らに回帰してくる。このような入力と出力の区別さえないような、絶え間ない刺激の連続こそが生命にとっての自律性を可能にしている。入力と出力が厳格に区別され、入力と出力の有無が明確にコード化されている人工知能には自律性がない。
僕たちは人間と会話するとき、このような無限の反応の連鎖として会話している感覚があることを暗黙的には熟知している。僕たちの会話を書き起こせば、AIのように交互にターンテイキングした台詞割になるが、実際の人間同士の会話は、台詞以外の無数の情報の絶え間ない交流によって支えられている。情報の交流にターンはなく、話していない人間も、相槌のひとつや目線のひとつ、呼吸の間ひとつにしても、話している人間と同じ瞬間に無数の情報を絶えず送り返している。だからChatGPTと会話しているとき、会話のみが抽出されたそのコミュニケーションに違和感を禁じえない。」
（「人工生命の危険思想」より）
「自律性こそが生命の本質であるということは、人工生命は危険な思想を抱えているということになる。どういうことか。AIになんらかの出力を与えようとすれば、僕たちはその目的に沿った出力を吐き出させるために適切な入力を与えればいい。現在ChatGPTをうまく活用しようとする人々が「最適な入力」である「プロンプトエンジニアリング」に邁進していることを見ればそれは明らかだ。つまりAIは出力を前提に入力を行えるという条件のもとで、人間にコントロール可能である「技術」（道具）になっている。たとえGPTの内部がブラックボックスになっていて、人間にその入力と出力の対応関係が理解不能だったとしても、ChatGPTは入力さえ与えなければなんの出力も行わない。しかしもしもAIのような「入出力」を前提としない、勝手に動き出す「自律性」を有した人工生命が存在するとすれば、人間が黙っていてもそれは勝手になんらかの出力を行い続けるということになるだろう。それは真の意味で人間のコントロールを離れるということになる。世間ではしばしば「AIが暴走する」というような危惧が叫ばれるが、実際にはAIは暴走せず、AIを利用した人間が暴走するのだ。真に暴走するのは可能性があるとしたらALIFEのほうだ。AIが制御可能なシステムを設計しようとしているとすれば、ALIFEは制御不可能なシステムを産み出すということが本質的につきまとっている。」
「人間がなんらかの入力を与えなくても勝手に動き続ける自律的なALIFEは、たしかに人間なしに生き続けるだろう。もっと積極的に言えば、自ら入出力を生成する自律的なエージェントにとっては人間の入力は膨大な入力のうちの一つでしかなく、人間の指示に従う必要はない。「管理されたシステム」と「管理不可能なエージェント」の差異こそが、一見すると近しい「AI」と「ALIFE」の違い、そして「道具」と「存在」を分ける決定的な分水嶺だ。」
（「生命と他者性」より）
「実のところAIに自律性を与えない限り、AIは生命的な存在感を持つことはなく、（究極的には）自動販売機のように僕たちの注文になんらかの仕組みで応える道具でしかない。友人や恋人とは、ときに僕たちの「意に沿わない」ことを言ったりするだけでなく、むしろコントロールが不可能であることこそ友人・恋人を、友人・恋人たらしめている。
哲学ではこれを「他者性」と言うこともあるが、その意味で現在のAIには他者性が存在しない。他者性とは、どこまでも自我のパースペクティブから逃れる、未知の側面が無限に続いていくこと。無限の捉えられなさこそ他者が他者である所以だ。つまり僕たちは互いに「分かり合えない限りにおいて」初めて他者となる。逆に言えば、誰かを完全に分かったと思えるとき、彼はもう他者ではなく自己の一部になる。AIにはこの本質的な「分かりあえなさ」がない。僕たちを裏切り、突拍子もなく語りかけ、意に沿わないことを言い、どうにかして分かり合いたいと心底望みながらも、望めば望むほど分からなくなっていく他者とのすれ違い。そこにこそ、愛と憎悪が分かちがたく結びついた人間のコミュニケーションの本質がある。
現在のAIには他者性が存在しない。しかし他方で、機械が本質的に他者性を持ち得ないとするロジックがあるわけでもない。他者が他者であることの最初の条件は自律的なエージェントであることだろう。現代のAI研究が本当に「他者」的な存在を目指すのだとすれば、生命性を持つシステムを探求するALIFE研究が必要になってくると言えるだろう。
本当に重要なことは、この人工知能（知性・道具）と人工生命（生命・自律性）の本質的な違いは、単に技術的な問題ではないということだ。たとえば、もしも人間が別の人間を入力に対して出力を返す存在だと扱えば、たとえ生物学的に彼が人間だとしても、彼は道具にすぎないし、逆に人間が入出力によってコントロールできない自律的な機械を開発し、その存在に振り回されることがあるとするならば、それは僕たちにとっての「他者」になるだろう。だが現在のAI研究は「人工知能」という名前を冠して、まるで人間知能のような存在を夢想しながら、実のところはその危険な自律性を規制することによって、AIの他者性を抹消し、人類に従順な道具を作っている。
AIについて議論するとき、僕たちはしばしば技術的な課題こそが問題だと思うが、むしろ僕たちの存在の性質こそが問題であって、技術はその思想の延長線上にしかないのではないか。」
「人間はどれだけ口をつぐんだとしても、沈黙することができない。その目が、その呼吸が、その結んだ唇が、絶えずなにかを語りかける。どれだけ僕たちが世界との関係をオフしようとしても、海中から抜け出せない魚のように、自らと世界を切り離すことができない。絶え間なく続く行為、完全な沈黙の不可能性、それこそが生命の証だ。そうした沈黙や停止が不可能な存在であることがよいことなのか、あるいはそのような存在を生み出すことが人類にとって幸福をもたらすのかは分からない。しかしそれゆえにALIFEの研究に賭けられた思想は、AIとは決定的に違う危険な存在への挑戦でもある。」
○目次
ALIFE2023
凡庸なChatGPT
生命の条件─入力と出力
人工生命の危険思想
生命と他者性
◎下西風澄
哲学者。1986年生まれ。東京大学大学院博士課程単位取得退学後、哲学を中心に講演・執筆活動を行う。著書＝『生成と消滅の精神史――終わらない心を生きる』（文藝春秋）、『10才のころ、ぼくは考えた。』 （月刊たくさんのふしぎ2018年6月号、福音館書店）など。
■下西風澄「沈黙するAI、沈黙しない生命」（20 Oct. 2023）
（「DISTANCE.media」〜「＋ISSUE1特集 ALIFE 生命とAIのあいだ」より）
この記事が気に入ったらサポートをしてみませんか？