ヒューマニズムはテクノロジーを語れるか？
現在のAIを語るときに避けて通れない研究者がいる。ジェフリー・ヒントンだ。今月、私にとっては衝撃的なあるニュースが流れた。
第一人者の想定を超える進化スピード
ジェフリー・ヒントンはイギリス生まれのAI学者であり、第3次AIブームの火付け役となったディープラーニングを生み出し、そのディープラーニングの重要な手法である誤差逆伝播法（バックプロパゲーション）を開発したことでつとに有名である。
ヒントン率いるトロント大学の研究チームは、2012年の画像認識コンテスト「ILSVRC」(the ImageNet Large Scale Visual Recognition Challenge)において２位以下に圧倒的な差をつけて優勝し注目を浴びた。トロント大学の画像認識AIはヒントンが開発した「畳み込みニューラルネットワーク」という機械学習の手法を用いていた。
ニューラルネットワークとは生物の脳細胞に模したアルゴリズムをもっている。ヒントンによれば、ニューラルネットワーク自体は長いあいだ、日本風にいえばマンガじみたものとしてまったく相手にされなかったという。生物学者の息子でもあったヒントンは、生物の脳の機能が必ずしも意味や論理によって機能しているものではなく、ある種の経験によって重みづけされることで知性的な働きをしていることに注目した。それをAIに応用したのが、ディープラーニングであり、ヒントン自身もどこかでニューラルネットワークといえば相手にされないからディープラーニングと呼ぶようになったと話していた。
ヒントンとトロント大学が成し遂げた成果に注目したのは、いわずもがなのテックジャイアントである。ヒントンは2013年、自身のスタートアップ企業がGoogleに買収されたことに伴いGoogleに入社し、同社のAI研究を牽引してきた。余談だが、デミス・ハサビスのディープマインド社がGoogleに買収されたのは翌2014年であり、ハサビスが開発したアルファ碁がこの先、数十年は不可能といわれたプロ棋士戦に勝利し世界に衝撃を与えたのは2016年である。これだけをとってみても、わずか10年の間に起きた出来事のスピードはかつて誰にも想像しえないものだ。
さて、ロイター配信で次のニュースが流れたのは本年5月3日のことである。
人工知能（AI）研究の第一人者として知られるジェフリー・ヒントン氏は、想定より遥かに速くAIが人間よりも賢くなる可能性があると気づき、AIの危険性について自由に話すために米アルファベット傘下のグーグルを退社したと語った。
私は少なからず驚き、それほどまでの進化なのかと思い改めた。ヒントンが記事のなかでふれているのはもちろんOpenAIのChatGPTについてであり、高度に進化した生成AIについてであった。具体的に生成AIが作成したフェイクニュースが民主主義にとってとてつもない脅威になることを危惧し、問題を提唱していくためにGoogleを退職したという。
ヒントンはまた、別のニュースではトランプ前大統領が警察官に引きずられる生成AIによる画像がツイッターを介して拡散したことを挙げ、フェイク画像は人々の感情を操作しうる重大な危険があると述べている。
私が驚いたことのひとつは数年前にはむしろ楽観的ですらあったヒントンのここまでの変化に対してである。数年前に出た『人工知能のアーキテクトたち —AIを築き上げた人々が語るその真実』（マーティン・フォード著/松尾豊監修/水原文訳/オライリージャパン)のなかのインタビューでは、チューリングテストで２時間以上、さまざまな会話を人間と同じように続けられるAIの誕生について10年以内での実現の可能性は極めて低いと答え、さらにはAIが人類の知能を超える未来より、他の理由による人類滅亡の未来のほうが近いのではないかとまでいっていたのだ。その時点で、ヒントンはAIの脅威と言えるのは、米中を代表とするAI武器の軍拡競争のほうだとしている。ヒントンが10年以内には難しいとしていたことが、それから数年で実現してしまったのだ。ChatGPTとなら際限なく会話できることは誰もが知っている。
同書で、ヒントンは先出のハサビスとは違う未来を見ていると述べている。ハサビスはこのとき、ヒントンが難しいと考えるシステムの実現をもっと間近にみていた。
テクノロジーがつくりあげたヒューマニズム
この連載では、何度もテクノロジーと倫理の問題を扱ってきた。科学と技術が重なり合ってしまうこと、目的と手段が曖昧になってしまうといった論点であった。日本においては近代化の際に、科学と技術がひとつのものとされたせいで、技術そのものが目的化していった歴史がある。それは、本来は手段であるべき技術が目的となる理念を見失ったことで倫理を失ったのではないかという読み解きだ。まず目的があって手段があるという秩序としての倫理が剥落していったのではないか、と。
しかし、技術はそもそもそれ自体で何らかの目的に適合する手段として出現するわけではないことは前回、技術において手段は目的と化すという哲学者ハンス・ヨナスの議論を引いて触れた。
その後、私はもう１つ重要な論に出会っていたことを思い出した。哲学者の木田元が1990年代に述べた言葉だ。これは現在、『対訳 技術の正体』（マイケル・エメリック訳/デコ）で読める。訳者の名があるのは、木田の言葉に英訳を付す特殊な構成のためだ。
木田の言葉を読んでみよう。すこし長めに引用する。
人類の理性が科学を産み出し、その科学が技術を産み出したという、この順序に間違いはないのであろうか。しかし、ギリシアの詩人が不気味だと恐れていたのは、人類の理性の所産である科学技術などではなく、ただの技術である。科学が技術を産んだというのは間違いではないか。むしろ、技術が異常に肥大してゆく過程で、あるいはその準備段階で科学を必要とし、いわばおのれの手先として科学を産み出したと考えるべきではないだろうか。
そして、その技術にしても、人類がつくり出したというよりも、むしろ技術がはじめて人間を人間たらしめたのではなかろうか。原人類から現生人類への発達過程を考えれば、そうとしか思えない。火を起こし、石器をつくり、衣服をととのえ、食物を保存する技術が、はじめて人間を人間に形成したにちがいないのだ。
技術はそもそも科学から独立しているばかりか、先行して人類を生き存えさせてきたのではないか。人類は生きるために技術を求め、むしろ技術のために科学を求めたのではないか。木田はそう喝破する。私の言葉でいえば、テクノロジーがヒューマニズムを生み出したのかもしれない。
木田のこの本を思い出したのは前回の記事でナチスのために効率的な殺人トラックを発明したポルシェ博士のことを書いたせいだ。そのことを初めて知ったのは木田のこの本だったのだ。
技術が科学を求めたのであれば、人間の理性をもとにする科学など後付けのものでしかない。そうだとすれば、人間の理性が技術を制御することができるのか。ヒューマニズムがテクノロジーを支配できるのか。そんなことは人間の思い上がりではないのか。木田はそう論じる。技術の“正体”とはそういうものだ、と。
テクノロジーは自己運動する
ChatGPTがもたらした衝撃によって俄かに喧しくなっているのは、まさにAIテクノロジーの制御の問題である。前回もふれたようにイーロン・マスクがAI開発の停止を提起したり、ヒントンのように警鐘を鳴らすことに舵をきった研究者もでてきたりしている。もちろん、政治の側でも率先してグローバルなガイドラインの策定に急いでいる。
今月21日まで広島で開催されていたG7サミットでも画像生成やチャットボットなどのAIテクノロジーへの適切な議論を進めるために「広島AIプロセス」を立ち上げることに、各国首脳が同意した。
広島でのサミットに先立って行われたG7群馬高崎デジタル・技術大臣会合でも「責任あるAIとAIガバナンスの推進」について議論された。一気呵成に進化を遂げてしまったChatGPTをはじめとするAIテクノロジーに対する潜在的リスクの国際的管理が焦点になっていることが見て取れる。
広島でも高崎でも、AIを脅威とする倫理的な問題だけが話し合われたわけではない。むしろ著作権管理や市場の活性化など経済的な議題が重点的に話し合われた印象だ。まるで原子力のようにAIを国際的に管理（あるいは先進国で独占）する動きの始まりにみえる。しかし、木田ではないが管理など虚しいことにも感じられる。
木田は技術は自己運動、自己展開するものという。次から次へとその可能性を無制限にひろげていく技術を人類が制御することなどできようはずがない。
自己運動、自己展開を「オートポイエーシス」と呼ぶこともできるだろう。もともとチリの生物学者コンビが生命の有機性を解き明かすために使用したものとして有名な言葉だ。ギリシャ語の「自己（オート）」と「制作（ポイエーシス）」を組み合わせた造語である。
木田が自らの技術観には哲学者マルティン・ハイデガーの影響が大きいと述べている。ハイデガーは『技術への問い』（関口浩訳/平凡社ライブラリー）で技術について「ポイエーシス」という言葉をつかっている。ハイデガーは技術を自然の裡に隠（伏蔵）されたものを明るみに（開蔵）することだと論じる。
テクネーはただの手仕事に関する名称ではなく、高度な技、すなわち芸術のための名称でもあった。テクネーはポイエーシスの一種であり、それゆえ詩的なものなのだ（詩＝ポエジー）
ハイデガーは技術（テクノロジー）の語源をギリシャ語に遡り、それがテクネーであることを改めて指摘して、テクネーが芸術のための言葉であると指摘する。テクノロジーは制作であり、制作は芸術であるのだ。芸術は秘められた真実を明るみに出す（開蔵）ことだ。ハイデガーは中世ドイツの詩人フリードリヒ・ヘルダーリンを引用しながらそう論じる。
しかし、ハイデガーのこの論でより重要なのは、現代の技術（テクノロジー）が制作（ポイエーシス）を離れてしまっている点だ。現代の技術は用立てを得ることでかえって自然のなかに秘められていた真実を隠蔽してしまうというのだ。用立て、つまり目的をもつことだ。そして用立てを得ることで、技術は人間さえも労働力という手段に変える。非常に難解なのだが、私がハイデガーの論から読み取るのはそのことだ。
現代のテクノロジーはひたすら可能性を追求することで、ほとんど無制限に自然を用立てしていき、人間さえも目的に適う存在としてしか“存在”しえなくしてしまう。存在の問題が科学と絡んでくるのは、まさにこの点でだがこれはまた別の話だ。紙幅がない。
オートポイエーシスと化したテクノロジーを人間が制御できるのか。それができなければ、ハイデガーが晩年のべたように技術文明は崩壊してしまうのか。
オートポイエーシスとは生物学の言葉だ。生命の有機性を論じるために生まれたタームだ。AIは生物学の教養をもとに脳神経のシナプスの接続を再現しようとしたものだ。ほとんど、自己運動的に進化しはじめたAIもまたオートポイエーシスそのものである。だとすれば、AIに用立てされる人類さえ見えてくる。
架橋不能な他者としてのAI
ハイデガーはよく知られているようにナチス党員であった。ナチスの支援でフライブルク大学総長に就任しており、ヒトラーを賛美する演説さえ行なっている。
そんなハイデガーにはその後、名を馳せるユダヤ人の弟子が何人かいる。彼らは師であるハイデガーあるいはその哲学と複雑な関係を保ちつつ自らの哲学を立ち上げていった。ここも前回の続きのようだが、もっとも有名なのがハンナ・アーレントでありハイデガーとは愛人関係であったし、頻繁な書簡の往復があったこともよく知られている。もう一人は、前回、詳しくふれたハンス・ヨナスであり、未来への責任を説いた。
そして、もうひとり重要な哲学者に触れないわけにはいかない。もっともユダヤ人らしいユダヤ人であった哲学者エマニュエル・レヴィナスである。レヴィナスの哲学は他者の哲学といわれる。絶対的に架橋不能な対象としての他者とは、予測不可能な未来のことにほかならない。現在という瞬間を捉えることが自己を確立すると説いたレヴィナスにとって、未来は圧倒的な他者だ。その他者との関係にこそ倫理が問われるのだという。
未来に対する態度が倫理のひとつの表れと言い換えることができる。それは奇しくもハンス・ヨナスのいう未来への責任と同じ根があると思える。それがアウシュビッツの後に残されたユダヤ人哲学者に共通した体験がもたらしたものであるのかは、私にはわからない。いまもうひとつ言えるのは、現代のAIがすでに人類にとって架橋不能な他者になりつつあるということだ。架橋不能は制御不能とも言い換えられよう。ヒントンが恐れるのもそういうAIに違いない。
レヴィナスについては内田樹の一連の書籍が有名なのだが、私自身は熊野純彦の『レヴィナス入門』（ちくま新書）、『レヴィナス 移ろいゆくものへの視線』（岩波書店）で読んだのが始まりである。
未来はそれほど未来でもなかった
科学の分野において未来への責任として言われるのは、放射性物質の半減期でありゲノム編集であり環境汚染であった。それは数世代先を危惧する問題である。
ところが、AIテクノロジーの倫理的な責任を人類が問われるのはそれほど未来のことではないのかもしれない。冒頭のヒントンのGoogle退職が示すように、長足の進化をとげたAIであるならば、私の生きているうちにさえなんらかのカタストロフィが訪れるのではないかと思ってしまう。
直近で取り沙汰されているような生成AIの偽造技術の制御についてはこれまでにも人類に経験がある。だからあまり脅威とは思えない。人類は通貨が生まれたそのときから、その偽造と技術的な競争を続けてきたし、ある程度の制御も実現している。それを思えば、AIの生成画像などまだ恐れるに足らない。私が怖いのは、私たち人類が本来のあり方を隠蔽されて、気付かぬままにAIに用立てられるようになることである。
それこそ、本当の意味での人類のカタストロフィではないか。人類が自らの制御が及ばないテクノロジーで最初のカタストロフィをもたらした地、広島でG７の首脳たちは果たしてどのような未来を見、どのような態度をとることにしたのだろうか。
ヒロシマ、アウシュビッツこそ、制御なきテクノロジーの象徴なのである。