肝心なところで意味を読み間違う…AI考

こんにちは(*'▽')

ジェームズ・キャメロン監督の「ターミネーター２」(1991年)を観たのが、わたしが人工知能を知ったはじまりだったと思います。シュワルツェネッガー氏演じるT-800型ターミネーターは最後のさいごで、人間がなぜ涙を流すのか分かった、と人間の感情をも学習したともとれる台詞を残しています。

「ドラえもん」に親しんでいるから、困っているところをロボットが助けてくれる！　と友好的に感じる部分もあるし、「新世紀エヴァンゲリオン」の人型兵器（AIとは違うのかな？）や、先週金曜ロードショーで放映された「サマーウォーズ」で仮想空間に解き放たれた、開発者に知識欲をプログラムされたAIのように、暴走することもあり得るんだなぁ…と、共生？・コントロールの難しさを感じることもあります。人間の限界を補ってもらいつつ、人間が人間らしく暮らしていくための相棒のようにいてくれたら最高ですけど…(*´▽｀*)　盲導犬のイメージでしょうか。

與那覇　そこでも議論しましたが、日本では「ぶっちゃけ、もう働きたくない」と表立って言いにくい風土がありますよね。そんなやつは「人間失格」「負け組」だ、と烙印を押されそうで。だから海外のTEDパフォーマーとか、お金持ちの堀江貴文さんとか、アーティストと実業家と大学教員を兼ねている落合陽一さんのような「成功者」っぽい人に、AI時代が来るから今ある仕事なんて意味ないよ、って言ってもらいたかったんだと思うんです、みんな。

そうした「カッコよく “仕事は無意味だ” と言いたい」人たちが支えるAIブームを終焉させたのは、2018年の頭に出た新井紀子さん（数理論理学）の『AI vs. 教科書が読めない子どもたち』でした。同書にも「AIが仕事を奪う」的なトーンは残っていますが、しかし既存のAI論はあきらかに誇大な宣伝を行っており、人工知能の思考法には本質的な限界があって人間には追いつきえないことを（後述）、「機械学習でロボットを東大に合格させる」プロジェクトを率いた体験から説得的に論じました。

斎藤　新井さんの本はAIバブルに思いきり冷や水を浴びせて、以降はメディアの論調もだいぶ慎重になりましたね。また「勝ち組ほどAIを煽る」現象には気持ち悪さもあって、既存の人間観の克服をうたいつつ「そんなすごいAIを作れる俺らスゲー」という万能感に浸るのは、ちょっといびつだと思うんですよ。結局「機能する優秀な人間」を賛美しているわけですから。

與那覇　AIブーム華やかなりし頃のバズワードが「シンギュラリティ」（技術的特異点）で、いま人工知能はどんどん優秀になっているから、2045年には人間を追い抜くんだと。なんでその年なんですかと聞いても、そこでグラフが交わるからだみたいな怪しい図表しか出てこないんですけど（笑）、とにかくそういう話が流行しました。

ぼくはそんな風潮を見て、ああ、ついに日本の知的世界も来るところまで来ちゃったなと感じました。2014年にSTAP細胞事件（※）が起きて、あれだけ世界的な問題になったにもかかわらず、この国の有識者はどこまでも「小保方さん」を甘やかし続けるんだなと。

（※）「万能細胞を発見した」として世界的な一流紙に掲載が決まっていた理化学研究所勤務の女性の研究が、実際には切り貼りされたデータに基づく無根拠なものだったと判明した事件。論文は取り下げられ、研究チーム内から自殺者も出したが、小保方本人はいまも自説を撤回していない。

斎藤　えっ、小保方晴子さんですか？　この文脈で出てくるには意外な名前ですが……。

與那覇　新井さんの本によると、AIが人間に追いつけない最大の理由は「意味を理解できないから」ですよね。人工知能に機械学習をさせると、たとえばリンゴの写真をインプットして「これはなに？」と尋ねたら、「リンゴです」と答えるようにはなる。

でもそれは「リンゴとはそもそもなにか（寒冷地に育つ果物で、家庭のおやつの定番で、調理してパイにもする……）」を理解して回答しているのではなく、単に「これまで大量に読みこまされた、“リンゴ” というタグのついている、赤っぽくて丸っぽい画像パターン」に似ているから、リンゴと答えるだけである。つまり「そう答えたら、統計的にいって当たりになりそうな文字列」とアウトプットしているだけで、回答の内容を “わかっている” わけではないと。

これって、まさに小保方さんがやっていたことだと思うんです。彼女は写真やグラフの「切り貼り」を論文だと自称していたわけですが、それができちゃうのは自分の研究の意味を、自分でわかっていないからでしょう。「こういうデータを出せば周りの人は喜ぶ確率が高いな」という思考法で、じゃあ実験の結果自体を加工しちゃいましょうよと。内容を理解していなくても、外見上「正解だと言ってもらえる」パターンが続くかぎり、それが研究なんだと心底信じていた。

斎藤　うーん、なるほど。彼女の不祥事については「自己愛の強さが生んだのでは」といった分析をする人が目立ちましたが、認知の面に課題があったと。

ただ最後までわからないのは、小学生の観察日記のようで理系の人が見れば全員ひっくり返る「実験ノート」を、自分で公開してしまったことです。周囲の反応を予測して行動するなら、それこそコピペでもなんでもして、それっぽいノートを創作しそうなものですが……。しかしそこも含めて、「肝心なところで意味を読み間違う」のがAIっぽいとはいえるかもしれません。

與那覇　彼女はやったことが大きすぎたから叩かれただけで、大学教員として「プチ小保方さん」には大量に出会いました。「これを入れておけば、先生がほめてくれそうな用語・要素」をレポートや卒論に盛り込んで卒業していくけど、教室や口頭試問で対話するとあきらかに本人が含意を理解できていない。ところがそれを「すごいだろう。うちのゼミの学生は✕✕を読んでいるんだ！」とちやほやする教師がいるわけです。

そうした経験から振り返ると、目下の日本では「AIが人間に近づいている」のではなく「人間がAIに近づいている」ように思えてきます。あたかもAIのように、自分の行為の意味なんか考えずに「統計上、やったらほめられそうなこと」を繰り返し続けるのが、一番効率のいいライフハック（処世術）なんだと。だから、AI論壇と自己啓発本とが結びつく。

斎藤　「意味を理解しないままで情報を処理する」という、新井さんが指摘するAIの特徴が、むしろ人間において発現しはじめていると見るわけですか。そう考えると、いま変化しつつあるのはテクノロジーではなく、人間自身のほうだとも思えます。実際に新井さんもAI自体より、まるでAIのようにしか教科書を読めない中高生を危惧していますね（後述）。

與那覇　いわば逆シンギュラリティこそが迫りつつあって、「人間がAIに追いつく」。本当はどういう意味かを問わずに、「とりあえずこう言っておけば評価される」ことを唱えるだけの人ほど出世していく状況は、いろんな職場で起きていると思いますよ。「中身はわからないけど、とにかくこのパワポでプレゼンすれば業績が上がる」といった働き方は典型です（前章）。そちらのほうが「AIがもたらす失業」などよりも、はるかに脅威ではないでしょうか。

斎藤　それは重要な問題で、自己啓発的なAI本は「仕事を失わないために」ハイスペックな人材になれと主張しますが、むしろ「自分がAIになってしまわないために」こそ、人間らしい価値とはそもそもなにかを、もう一度考える必要がありますね。AIが人間のどこをコピーできないかを検討するのは、その上で有効な手法です。

「AIは意味を理解できない」という命題を言いなおすと、「シンボル・グラウンディング問題」になります。要するにAIは、記号が現実とどういう関係を持つかを認識できない。

與那覇　ぼくの世代くらいまでは小学校で、三重苦（=視聴覚がなく発声できない）のヘレン・ケラーがサリバン先生に言葉を教わる話を習ったと思うんです。W-A-T-E-R という記号を腕に指で綴られるだけだと、なんのことかわからないけど、水を同じ場所にかけてもらって「あっ！　これだ」とわかる感動的なシーンがある。それがAIにはできないということですか。

斎藤　ええ。ゲームデザイナーの三宅陽一郎さんは、AIの限界は「身体を持っていない」点にあると言っています。私の考えでは、それが人工知能では「比喩表現」を扱えない理由なんです。焚火(たきび)の写真を大量に機械学習させて「炎」だと認識させることはできても、それを「人の内面にある情熱の喩え」に応用することができない。

人間が使う比喩は、炎を見て熱さを感じたときの印象を「俺の心の中にも熱いものがある」として転用していくように、身体性に依拠するところが大きい。いわゆる共感覚みたいなものですね。囲碁や将棋のような純粋に数学的なパターン処理で解決できる分野では、AIのほうが人間より強いけど、自動生成のプログラムだけで「人間を感動させる物語を書く」ことがおそらく不可能なのは、AIは身体感覚を持たないからです。（つづく）

『心を病んだらいけないの？　うつ病社会の処方箋』(斎藤環・與那覇潤、新潮社、2020年)　「第六章　人間はAIに追い抜かれるの？――ダメな未来像と教育の失敗」より

《あたかもAIのように、自分の行為（←たぶん発言も含む）の意味なんか考えずに「統計上、やったらほめられそうなこと」を繰り返し続けるのが、一番効率のいいライフハック（処世術）》……わたし、こういうおじさんに複数回出くわしたことあるかも。そうだ、と言い切れないかもしれないけど、なんか会話が成り立たないなぁと感じました。

教科書が読めない子どものことはとても心配ですが、教科書を読むよう言われるより、夏休みの宿題でよくあったような調べ物を紙上に工夫してまとめたり、少人数の前で（安心できる場を確保したうえで）自分の思いを発表したりしてきてると、そういうことに陥らずにすんでいるだけなのかな？？

AIに薦められる本を読むのに抵抗を感じて、読書カフェでの課題本や本好きの知人にことしは何を読んでいるか訊いて幅広く出会いたいなぁと望んでいます。本棚での偶然の出会いもなかなかエキサイティングですよね！？

ペッパーくんと映画の感想を話したりはできないってことかな。むかし図書館を含む複合施設にいたペッパーくんに話しかけたけど、ぎこちなく終わってしまいました。

Attention : Don't be like Artificial Intelligence !! Human nature is important ☆