【１万字無料】 ドラえもんと共冒険者モデル：人間とAIの関係を考える——『AI親友論』を読む（３）
＊Kindle Unlimitedでもお読みいただけます！
2023年に刊行された『AI親友論』について、紹介・感想・議論を行ったダイアログ（対談）です。
全４回の記事に分けて、お届けします。
（今回は第３回！ この記事だけでも読めます！）
第１回 人間についての哲学的な本！？
第２回 WEターン：人間の弱さを考える
第３回 ドラえもんと共冒険者モデル：人間とAIの関係を考える（この記事です）
第４回 カント的人間：道徳と自由を考える
（どの回も一部は無料で読むことができます）
（今回紹介する本の書誌情報）
出口康夫『京大哲学講義 ＡＩ親友論』徳間書店、2023年
第１回・第２回はこちら
話している人
八角
株式会社「遊学」の代表。
京都大学大学院 修士課程修了（文学）。
哲学をやっている。
しぶたにゆうほ
株式会社「遊学」の一員。
京都大学大学院 修士課程修了（文学）。
専門を尋ねられると、大学では「数学基礎論」、大学院では「宗教言語論」と答えていた。
「主人／奴隷」のオルタナティブ
八角 前回（第２回）は「WEターン」について紹介・議論しました。「WEターン」とは何かというと、「人間をどのように考えるか」っていう話で、具体的には、「わたし」ではなく「われわれとしてのわたし」と考えましょう、というものでした。
しぶたにゆうほ（以下「しぶ」） これでいよいよ、『AI親友論』の本題に入ることができる。つまり、AIと親友になる……AIと人間の関係について。
八角 本に即していうと、まず第三講「AIは奴隷か」の話がベースだね（74〜83頁）。
しぶ その第三講のタイトルにある「奴隷」の話からするか。ちょっとギョッとする言い方だけど、この本では、西洋などでは「AI／人間」の関係は、「主人／奴隷」の関係として捉えられていますって話がなされる。
八角 人間が「主人」で、AIが「奴隷」あるいは「召使い」。
しぶ ちょっとややこしいのが、第三講の最初にも書いてあることなんだけど、日本だと『鉄腕アトム』とか『ドラえもん』とかに馴染みがあるので、「奴隷？ いやロボットやAIは友達でしょ」という発想になる。
だけど、AIを「奴隷」として、つまり「道具」として考えるのが自然な文化圏もあるし、なんなら技術的にはそういうものとしてAIは作られているよね、ということになる。つまり〈人間がAIを使う〉という関係。
八角 で、「フェルベーク基準」の話になる。
しぶ そう、この「フェルベーク基準」の話は面白かった。機械や道具を作ったときに、倫理的に問題がないかどうかの判断の１つとして、「フェルベーク基準」という基準が用いられているんだそうです。どんなものかというと、その機械や道具が人間の行動に制約を与えたり、人間の判断に干渉してきたりするのはダメ、っていう基準なんですね。
八角 例として、「フードフォン」というアプリの話が出ているね。要は「あすけん」でしょう。いま大流行りしてるアプリ。アプリに「こういうもの食べました」って食べ物を入力する、そうするとカロリーとかが出て「あなたはダメですね、もっといい食事をしなさい」とかって言われる。それが結構シビアなんだって。そういうので、みんな今振り回されてて、だんだん「あすけんダメだ」っていうことも言われつつある。
しぶ 「ダメだ」まで来てるんだ。
八角 「やっぱダメなんだよなあ〜」みたいな。
しぶ ぼくも『ポケモンスリープ』に「もっとちゃんと規則正しく寝ろ」みたいなこと言われてますけども……。
八角 ちなみに「あすけん」問題については最近、Youtubeでも取り上げました。
しぶ とにかく、そうやって人間にどうのこうの言ってくるやつはダメでしょ、っていうのが「フェルベーク基準」。ここだけ聞くと、それはそれでもっともだという感じもする。人間の自由の侵害だからね。だけど！っていうところ、ここからがこの本で面白いところで、「そうすると、ドラえもんは『フェルベーク基準』的にアウトになっちゃうよね？」っていう。
八角 そうだったね。
しぶ ドラえもんは人間の友達で、人間の行動に影響を与えるわけで、しかも明らかに感情とか道徳とかっていうレベルで影響を与える。じゃフェルベーク基準的にアウトになるじゃん、ってことなんですけど、何かそれはおかしい。おかしいってことは、じゃあフェルベーク基準が前提としていた「主人／奴隷モデル」がおかしいんじゃないかって話になる。
八角 「おかしい」というか……。どっちがいいではなくて、色々認めて「多層的な社会を作り上げていく」って書いてるね（83頁）。
しぶ たしかに、「おかしい」と要約すると強すぎました。言い直すと、「フェルベーク基準」とか「主人／奴隷モデル」とか「自由をどう考えるか」みたいなことはお互いに、それこそネットワークのように関係し合っていて、その全体を組み替えるっていうことを、おそらく試みている。そのためには、表面的にいじってもダメで、「主人／奴隷モデル」と別のモデルをちゃんと作る必要がある。そこで提案されるのが「共冒険者モデル」。
八角 つまりフェローシップですね。仲間ロボット。「ドラえもん」的世界観を支えるような「共冒険者モデル」。
しぶ この「共冒険者モデル」というのが、出口先生の強調したい内容ですね。あと、個人的には、この本の議論の展開が、「フェルベーク基準」をテコにして書かれているのが面白いと思った。この本の１番良かったところかもしれない。
八角 そうなんだ。どういうこと？
しぶ 「人間に影響を与えるのだめだよね！ 人間の自由を奪ったり、人間が支配されているのは良くない！」というのは、そこだけ読むともっともらしくて、読んでいるこちらも一度は納得しかけてしまう。でも、「ドラえもん」のような直感を持ち出して「それだけだと変だよね」と崩す。そして「別のモデルを考えよう」と展開する。その論の進め方が面白いなと思いました。
「舟」の比喩
しぶ 西洋のAI研究は「主人／奴隷モデル」で行われる。一方で日本人は「ドラえもん」を自然に感じる。より良い社会のためには、西洋と日本は対話したほうがいい。対話のためには、「ドラえもん」的世界観を支えるようなオルタナティブなモデルを考える必要がある。それが「共冒険者モデル」。
八角 第五講「仲間としてのAI」で、このオルタナティブなモデルの内実が説明されますね。
しぶ そう。「『舟』のメタファー」という節があって、ここが面白い。
八角 引用しておこう。
「われわれ」の身体行為は、すべてなんらかの意味でのアドベンチャーに見立てられます。いろんな種類のエージェントが巨大な乗り物に乗って、関わり合い、お互いを支え合って、冒険の旅が進んでいるというイメージで語れるのです。
（中略）
このような「われわれ」においては、AIやロボットは「わたし」と冒険を共にする共冒険者なのです。
しぶ まず、メタファーを提案することでイメージを変えようって戦略自体が良いよね。それから、「アドベンチャー」における「巨大な乗り物」というメタファー自体が面白い。
八角 乗り物系メタファーってよく使われるよね。
しぶ 『AI親友論』の節のタイトルでは「舟」と書いてあるけど、ここを読んだときに思い出したのは、ヒュームが「舟」のメタファーを使っていたことです（デイヴィド・ ヒューム、大槻春彦（訳）『人性論（四）』岩波文庫、1954）。
「秩序」や「ルール」のようなものは、ヒュームの発想では「習慣」と近いところにある。その秩序がどのようにできるかというと、ふたりで小舟を漕いでいるときのようにできるという。ふたりで小舟を漕ぐときっていうのは、同じペースで漕がないと前に進まない。だけど、「お互い息を合わせようぜ、せーの」って計画してやるわけではなくて、漕いでいるうちに「なんとなくこういう感じだな」っていい感じのリズムになる。「秩序もそういうふうにできていく」ってヒュームは言っている。
八角 なるほどね。先に秩序があるんじゃなくて、だんだんできあがっていくっていう考え方なんだね。
しぶ 社会制度などを考えるための古典として、この話がよく引き合いに出されるんだよね。社会科学が発展して、社会制度の精緻な研究が進んだのは、ヒュームよりも後の時代。だけど、ヒュームが舟のメタファーで言ってたようなことが、すでにその第０話だった、先駆けだったというように、よく持ち出される。
八角 そうなんだ。ヒュームは社会科学にも使われるんだね。
しぶ 『AI親友論』においては、１回１回の行動を舟旅としているんだと思うけど、実際にはAIと人間は長期的に協働して制度とか秩序とかルールとかを作る。「舟」は、例えばそういうイメージを感じさせるようなところがある。
八角 「舟」のイメージで言えば、私はパスカルを思い出した。あなたはもう舟に乗ってしまっているんですよ、って。
正しいのは賭けないことなのだ。——そうか。だが賭けねばならないのだ。それは任意的ではない。君はもう船に乗り込んでしまっているのだ。では君はどちらを取るかね。
しぶ 「賭け」の断章ですね。たしかに舟ってそういうイメージもあるな。
八角 否応もなく、もうそれに乗り合わせてしまっていて……。
しぶ 「呉越同舟」！ 「I'm in the same boat」だと優しい感じだけどね。「わかるよ、だって私も同じ舟に乗ってるんだから」的な……。
八角 「呉越同舟」ならまだ共通の目的があって、自分で選択している感じがするからいいけどさ、「もうすでに乗っている」っていうのは否応なくそれを選択させられているから、他の選択肢がないっていう感じがする。
しぶ 「宇宙船地球号」みたいな。
八角 だから「舟」って言われると、外部がない感じ、強制されている感じがして嫌だなっていうのを思い出した。そんなこと言ってもしょうがないんだけど……。
しぶ まあでも、「舟」のメタファーの表現上の問題だから、大事だと思う。ヒュームがどう、パスカルがどう、ってことじゃなくて、素朴に「舟」というメタファーからどんなイメージが喚起されるのかが重要。「舟」のメタファーによって「人々がAIと人間の関係について持っているイメージ」を書き換えるという戦略が「実際どれくらいうまく行くか？」「何かほかに必要なサポートはないか？」というところに関わる。試してみて、ネガティブなイメージも入り込んでくるのであれば、それはちょっと別のメタファーを組み合わせて補助線を引く必要があるとか。
八角 悪いイメージっていうか、事実として、舟からはなかなか降りられないからね。そういう事実も含めて、「舟」のメタファーを使っているんだろうなって思う。
しぶ なるほど。いずれにせよ、「人間がAIを使う」という「主人／奴隷」モデルではなく、「共に舟を漕ぎ、共に冒険する」モデルで考える。そういう提案がなされている。そこでの「舟」のメタファーが、考え甲斐があって面白いということでした。
「AIと共に舟を漕ぐ」を想像する
しぶ 議論に入る前に小ネタを挟みたいんだけど、この本が読みにくいところの１つとして、「すごく未来の話をしてるから実感が湧きにくい」ってことがあると思う。現実とのリアリティの距離がありすぎる。
八角 最初（第１回）に話したことにもつながるね。「AIに仕事を奪われる！」みたいな危機感で読み始めると、書かれているのは遠い未来のSFに出てくるようなAIの話で、ギャップがあるって話したね。
しぶ でも、『AI親友論』で言われている「別の道徳的主体（AI）と共に舟を漕いでいる」を現実に即して考えてみることは可能だと思う。
八角 「実際のAI」と「SF的なAI」のギャップを埋めてみるテストってことね。
しぶ 例えば今でもすでに、Chat-GPTとかのLLM（大規模言語モデル）で文章を生成することは行われている。そこで「文章を書く」ことは、たとえば「マナー」とかつながっている。冠婚葬祭の文章を書くとか、ちゃんとした形式の手紙を書くときに、AIと一緒に書くということは現実にある。そうすると次には、「人間はAIに助けてもらいながら書き、AIはそのデータを学習し、マナー自体が変質していく」ってことがあると思う。もちろんそうならないように予防しているAIもあるけどね。
八角 なるほど、そうだね。確かに、AIに代わりに文章を書いてもらっているっていう話はよく聞くね。その文章を書く話は、マナーというか、ルールかしら。
しぶ マナーが変質した時点では、もうAIは、こちらが教える相手ではなくなってしまっている。そうではなくて、逆にどのように書いたらいいかを教えてくれる先生みたいになっちゃっていると思う。だから、「なんかルールが前と変わってるような気がするけど、AI先生も言ってるし、そうだった気がする」みたいな感じで、両者の主導権が混ざり合ってルールがちょっとずつ変わっていく。
八角 確かに。生成AIの問題で話題になっている話の１つはこれだものね。
しぶ この変質は、最初は文章とかの「言語」の領域だけに起きるけど、人間のほかの活動全般にもどんどん起きていくようになると、どうなるか。例えば、AIを積んだロボットと一緒に働くようになったとする。最初はロボットもただの機械っぽい感じなんだけど、だんだん職場のルールとか、ビジネスマナーみたいなものが、人間とロボットとの協働で書き変わるようになっていく。「なんか前と行動が違うする気もするけど、ロボットもこう動いてるし……」と。こうなるともう、人間以外に主体が増えたという状態に近い。もはや画面の中だけじゃなくて、それは人間社会の出来事だよね。「現在のAI」から「AIに道徳を実装」まではこう連続的に想像できる。
八角 最初は個別的な領域の存在だったAIが、だんだんいろんな領域に活用されるようになって、そうなると、AIを前提として人間の生活というものを考えないといけなくなる。そうなってくると、「AIに道徳を実装」も現実味が帯びてくるね。
しぶ 「AIに文章を書かせる」ということから、「AIに道徳を実装する」までは飛躍があるように感じられると思うけど、中間にルールの変質の話を挟むとちょっと想像しやすくなるかもしれないね。
八角 なるほどね。この変質の話を挟むことでギャップが解消されるかもしれないね。
しぶ もちろん「道徳的AI」の細かい要件は、あとできちんと話すとして（第４回）、ここで言いたかったのは、「共冒険者モデル」＝「別の道徳的主体（AI）と共に舟を漕いでいる」は、現在から地続きに想像することもできるということ。
議論：共冒険者モデルは実装可能か？
日本的発想：AIを道具として扱わない
八角 ここからは「共冒険者モデルは実装可能か？」あるいは「どう実装するか？」ということを具体的に考えてみようと思うんだけど、まず「共冒険者モデル」って、「AIを道具としては見ませんよ」っていう話だよね。
しぶ そうですね。
八角 この「AIを道具として扱わない」というのは、日本人的発想だと思う。東洋的だから良いとも言えるけど、でも技術は東洋的ではない。
しぶ 現実は西洋的に進んでいる、しかし想像力は日本的だと。
八角 それだから、日本において西洋と東洋がどのような関係になっているかは大事なんだけど、そこは置いておこう。いま具体的に考えるべきは「デザイン」の問題だと思いますね。たとえば、ファミレスのガストが猫型の配膳をやってめっちゃいい、みたいな話がある。一方で、京大の研究グループが、笑い声に反応して笑うロボットを作ったときに、その声とか見た目を若い女性にしたのが炎上したこともあった。どちらもデザインの問題だよね。
八角 あとは「不気味の谷」みたいな話もあるし。
八角 デザインで考えると、日本でOKとされるロボットやAIって、要はペットとかの発想なんだよね。Aiboとか、あったじゃない。ある意味「東洋的」ではあるなって思うけど。でも技術のほうは、西洋的になっている。
しぶ 日本と西洋で、AI観がちがうかもというのは、前にネットで話題になっていた、あの話だ。英語圏の人はChat-GPTに「命令」するけど……。
八角 日本人は「質問」する。
しぶ そうそう！ あれは１つのエピソードだけど、実際、逸話レベルを超えて、本当にそうなんだろうなって思う。
八角 日本人、猫に人格を認めるからね。猫に対する狂信はすごいもん。小さな人間みたいに扱う。出口先生も、扉のプロフィールで「二"人"の犬とともに京都に暮らす哲学者」って、書いてある。犬に人格性を求めるわけだよ。
しぶ マルチエージェントシステムの実践！ わざと書いてるなこれは（笑）。
八角 だから、『AI親友論』で提案されているところの、「AIを道具として見ない」の部分までは日本人と相性が良いよ。
しぶ そういう感じだね。
八角 逆に、「道具として見る」西洋の例としては、例えばカトリックの教会。教会の建物は豪華だし、みんなそれに寄付出すから大切にしてるし、なんせすごくお金かかってたりする。でもそれって何か「アニマ」的なものが宿ってるんじゃなくて、例えば「祈るための舞台装置がいかに良いか」ってだけの話。言ってしまえば、別にどこでも祈るわけだよ。「より良くできるようにしてる」って発想だから、究極その舞台装置は要らないのね。究極的には要らないけど、でも現実的にそっちの方がいいからみんなお金出すし、燃えたら悲しむし、そこに結びつきがあるわけだけど、でも壊れてもしょうがないよねって思ってる。日本人みたいに、付喪神（つくもがみ）じゃないけどさ、「建物に魂が結びついていて…」とかは想定してないんだよね。そんなことしたら偶像崇拝だから。
しぶ なるほど。あくまで手段だから、目的が達成されるなら他のものでもいい。
八角 だから、どんなに頑張ってもAIは道具なんだよね。「AIを人間として見る」、つまり「道具を人間として見る」ってことは、西洋的にはジャンプがあるはず。西洋的には、AIを人間として見ることは難しいはず。でも『AI親友論』では最初から人格性を認めてるじゃん。だからそのジャンプがすでに終わってる状態でやっている。
しぶ 西洋的な発想の……というか、そのジャンプをしていない人への説得は別に必要だと。
八角 そうそう、だから西洋的な発想を持つ人に対しては、その説得はおそらく必要となるだろうね。そういう意味で、出口先生の『AI親友論』は、とても日本人的な哲学で行われているね。
『AI親友論』とキリスト教
八角 そこで思い出されるのが座談会のバチカンの話ですよ。
しぶ やっとバチカンの話ができる！ あの箇所、めちゃくちゃ面白いと思うんです。
八角 わかるぅぅ！
しぶ ここだけでめちゃくちゃ掘り下げられると思うんだけど。引用してちゃんと話そう。
八角 この座談会は、経済学者の堂目卓生さん、ロボット工学者の石黒浩さん、人間工学者の青木宏文さん、そして出口先生の４人で行なわれているもので、議論したいのはこの石黒さんの発言のところですね。
10年以上前に、HONDAがASIMOを開発しました。HONDAは、バチカンに「人間のような２足歩行をするロボットをつくって、倫理的に許されますか？」というような質問をしたそうです。するとバチカンは「人間がつくった便利な道具を世に出して、何が倫理的にいけないんですか？」というような感じで切り返したと言います。さすが、バチカンは人間に対する認識が深いなと思いました。
しぶ これ、文脈を補足すると、「バチカンが、人間とAIは本質的に区別がないと言ってて非常にリベラル！すごい！」みたいな感じで言われているんだけど、多分バチカンは、「AI＝機械」を「道具」だと思っているからこう答えたんだよね。
八角 そうなんだよ。
しぶ 「ドラえもんは道具だから倫理的問題が発生しないです、以上」って言ってるだけであって、ある意味めっちゃ（『AI親友論』的に言えば）保守の極なんだよね。
八角 フェルベーク基準であるところの、「主人／奴隷モデル」で考えてる。
しぶ そう！ 「主人／奴隷モデル」をめっちゃ極めてるから、めっちゃ人間っぽいAIを作ってもそれは道具、だから大丈夫っていうロジック。「人間だけが、特殊な被造物として創られ、人間は、人間以外の被造物を管理する責任も与えられているから、技術や科学を一定程度まで使っていいってことになっている。だから、人間そっくりの機械を作ったっていいんじゃないですか？ それぐらい道具を作ることは認められてるでしょう。これまでも道具、いっぱい作ってきたし！」みたいな感じで。
八角 AIも道具だからOKだよって言ってるだけなんだよね。
「どこで倫理的問題が発生するか」のすれちがい
しぶ 俯瞰して言うと、「人間に近いAIを作るとき、どこで倫理的問題が発生するか」の感覚が根本的にずれている。座談会の文脈では、倫理的問題は「AIが人間みたいな姿になってもいいかどうか」ってところで発生すると思われてる。でもバチカン的には、倫理的問題は「人間が道具を作ってもいいかどうか」ってところで発生すると思っている。
八角 そうそう。
しぶ キリスト教の内部では、「道具作っちゃいけないんじゃないんですか？」って言ってくる人に対して、応答しなきゃいけないと思ってるから、それに対するロジックがめっちゃ洗練されてる。そのロジックの１バリエーションで答えてるだけだから、「AIが人間みたいな姿になることに、倫理的問題が発生する」っていう問題意識はないんだよね。
八角 全くない。
しぶ 逆に座談会では「AIが人間みたいな姿になってもいいかどうか」という話だと思ってるから、「さすがバチカンの人はそんなことにも即答できてすごい」みたいになってるんだけど、そもそも、バチカンはその点について倫理的タブー感を全然感じていないと思う。だって「人間」は人間だけなんだから、他は全部道具でしょっていう。
八角 「宗教は科学を否定してますか？」っていう質問に対して、「別に宗教は科学のことを否定していませんよ。だって、神が人間を、道具を使うように作ったので、当然、人間がどんな道具を作ったとしてもオッケー」って答えがあるわけだよ。その道具で何か悪いことをするのがダメなのであって、それは道具の問題じゃなくて、人間が悪いことをするのが問題なので、そこはダメですよ、っていう話でね。ロバート・マートンの動画でも話した話ですけど。
しぶ もしその場で「つまりAIも人間と考えていいってことですね！」って質問したら、「え？なんで？ちがうよ？」って言われると思うな……。
八角 そりゃそうだよ。AIはどこまで行ってもバチカンからは人間として認められない。
異星人で考えてみると……
しぶ バチカンの発想と、『AI親友論』の発想は、完全に真逆なんだよね。『AI親友論』だと「AIを１人の人格として認める」っていう発想で、AIも人格なんだから、当然「人間に似たAI」を作ってOKとなるわけなんだけど、バチカンは「AIは道具なんだから別にいいじゃん」って言ってる。出口先生は最終的に
（…）キリスト教をベースにした西洋の思想とは違う、オルタナティブな思想を提示していきたいです。
石黒先生とは出発点は違いますが、思想的に対立しているわけではありません。極右と極左がラジカルを経て最終的に合流したと言いますか、回り回って「人間とAIの間に原理的な対称性はない」と、同じ意見に行き着きました。
って言ってて、つまり〈逆の方向に回ったら同じところに立ててたんで良かったですね〉って感じだけど、全然良くないと思う（笑）。SF的なAIの話だから誤魔化されてるけど、なんというか、典型的な人間とされているものと違う他者が現れたときに、この２つの主張は「明確な対立」として存在するんだよ。例えば、ツチノコみたいなのが現れてさ……。
八角 ツチノコはやめて。ツチノコは好きだけど。「異星人」にしましょう、「異星人」ね。
この記事が気に入ったらサポートをしてみませんか？