【人類が人工知能に対抗できる最終手段 －－ 書評『AIの壁 人間の知性を問いなおす』】
－－－－－－－－－－－－－－－
タイトル： #AIの壁 人間の知性を問いなおす
著者： #養老孟司
書籍： #新書
ジャンル： #人工知能
#社会
#対談
初版年： #2020年
出版国： #日本
出版社： #PHP研究所
全巻数： #1巻
続刊予定： #完結
全頁数： #161ページ
評価：★★★★☆
－－－－－－－－－－－－－－－
【あらすじ】
戦後日本の歴代ベストセラー4位『バカの壁』の著者で知られる解剖学者、養老孟司。人間の知性について幾度も探求した養老氏が次に目をつけたのが、人工知能(AI)。技術発展により「AIが人間の知能を超える」と言われる昨今、人間にとってAIとは何か。どのように向き合えばいいのか。将来的に医療・司法・経営などのガバナンスにも導入が決まっている現代社会について、AIとゆかりのある4名の有識者：羽生善治(将棋棋士)、井上智洋(経済学者)、岡本裕一朗(哲学者)、新井紀子(AI研究者)とそれぞれ対談し、人間の持つ可能性と待つ未来について語り合う。
－－－－－－－－－－－－－－－
【感想的な雑文】
「独自の知性を持つコンピューター(AI)が人類に危害を加える可能性がある」と世界で初めて提示したのは、おそらくチェコの劇作家カレル・チャペックが1920年に発表した戯曲『R.U.R.』だと思う(岩波文庫の邦題では『ロボット』で、世界で初めてロボットという言葉を作り出した)。
そのほかにも、AIと人間の友情や戦争を描いた作品は古今東西、世界中に多く、たとえば自分が今思いつく物だけでも、『ターミネーター』、『われはロボット(早川書房)』、『アイ,ロボット(原作は『われはロボット』ではなくオリジナル)』、『ロボコップ』、『2001年宇宙の旅』、『ドラえもん』、『(映画版)のび太の海底鬼岩城、鉄人兵団、ブリキの迷宮』、『ザ・ドラえもんズ ロボット学校七不思議』、『鉄腕アトム』、『ブラック・ジャック(「『Uｰ18は知っていた』の回)』、『メトロポリス』、『ブレードランナー』、『アップグレード』、『トランセンデンス』、『攻殻機動隊』、『マトリックス』、『A.I.』、『AI崩壊』、『her/世界でひとつの彼女』、『ジェクシー！ スマホを変えただけなのに』……と、まあ、ともかくキリがない。
また、『R.U.R.』でロボットとは反逆者のイメージだったものを、SF作家アイザック・アシモフは『われはロボット』収録作内にて「ロボット工学三原則」という新しい概念を交えた規約を制定した。
1. 第一条 ロボットは人間に危害を加えてはいけない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
2. 第二条 ロボットは人間に与えられた命令に服従しなければならない。ただし、与えられた命令が第一条に反する場合は、この限りでない。
3. 第三条 ロボットは、前掲第一条および第二条に反する恐れのない限り、自己を守らなければならない。
当時は物語の世界観を膨らます目的で作られた規約だったが、目まぐるしい科学技術の発展で、21世紀後半には「ロボット工学三原則」に大変近い憲法(ロボット版の人権など見越して)が、もしかしたら発布されるかもしれない。現に、2045年にはAIは人間の脳を超える転換点「シンギュラリティ」を迎えるだろうと予言されている(俗にいう「2045年問題」である)。
残り24年。干支2周分の間に我々は、AIに対してどのように対策すればいいのか。2045年以降の人類はどのように過ごせばいいのか。そもそもAIとは何なのか。
養老氏の見解としては「高級な文房具ぐらいに思ってる」と答えている。パソコンが情報処理の道具ならば、広い意味では文房具の一種とも言える。そうなるとAIは、結局はその延長線上にしかすぎないと捉えている。
そして、仮にAIを道具と考えた場合、パソコンと同様に実際の仕事でどれほど使えるのかがカギとなる。さらに平たく言うと、AIが優れた電卓としたら、電卓は入力された計算式(プログラム)の処理解析が得意であるため、人工的な計算式を基に作られた都会システム(政治、金融、法律、交通など)には人間以上に威力を発揮するが、都会の外にある自然に対してどれほど把握できるのかが、AIにとっての大きな壁だと養老氏は唱える。
数学者でAI研究者の新井氏も、AIの弱点として似た点を述べている。
「実は、AIが一番苦手なのが危機管理なんですよ。AIには定常状態しか予測できないんです。だから、ゲリラ豪雨とか地震とか墜落とか、想定外のことは予測できません。なぜかというと、滅多に起こらないことは、統計データにほとんど現れないので学習のしようがないからです。」
また、養老氏は人間の意識だけで作った社会を形作って、「ああすればこうなる」という風に、原因と結果を綺麗に揃う思考だけで物事を考えることを「脳化社会」と名付け、この脳化社会を痛烈に批判している。人工的な計算式だけで構成された社会システムにおいて、人間は絶対にコンピューターには勝てないので、「職が奪われる」と嘆いている人類は、ある意味では自業自得に陥っているのかもしれない。
それこそ将棋や囲碁こそ、計算処理が試される世界である。棋士の羽生氏も棋界におけるシンギュラリティを実感しており、AIが導き出したいくつもの棋譜に驚かされているという。将棋が趣味の人には当たり前の知識だが、将棋には実に多くの戦法が存在している(有名なところだと穴熊とか矢倉とか)。そのなかに「雁木(がんぎ)」と呼ばれる戦法があるのだが、これは江戸時代から伝わる古典的手法で、現代の将棋において誰も見向きもしない…はずだった。
だが、最新鋭の将棋ソフトが局面でこの雁木戦法を使い、AI自身が再評価したことで話題になって、棋界でちょっとした雁木戦法ブームが起こった。人間にとっては流行り廃りあるものが、AIにとっては古い新しいの概念はなく、ただ手法としての有効性、つまり「評価値」が高いから局地解(その場の解答)で指しただけのシンプルな話なのだが、「先入観がない」、それだけで人間とAIの大きな違いを感じる。しかし、「先入観がない」ということは「感情が伴わない」ということを意味し、一番に危惧されるのは生物が絡んでくる分野、将来的に自然など生物領域がAI的に扱われしまうと養老氏は忠告する。現時点ではAIが不確定要素の多い自然を扱うことは難しいらしい。路上の昆虫ひとつ取っても、分類判定や体長測定の明確な基準点はなく、はっきり言って境界線が曖昧なことが多いため、「人間の知性とは何か？」と聞かれたら、この「曖昧に計測する」が大きいヒントとなる。そして、「わからないことを面白がる」ことも人間だけに与えられた貴重な遺産だ。
人類で最も古い知性行為と言えば「哲学」である。AIに哲学は可能なのか、哲学者の岡本氏の見解では「学問の系譜を辿って議論するような文脈なら可能かもしれない」と予想している。簡単に言うと、プラトンやニーチェなどが唱えた思想概念を引用・脚注する形で議論すれば、正直「曖昧な勘」で論じていた歴代の哲学者より緻密な分析結果を出せる可能性があるとのこと。ただし、まったくの無から前提を生み出すことは自然と同様にまだまだ難しい。
倫理の有名な問題に「トロッコ問題」がある。
《あなたはそのとき、たまたま暴走したトロッコの走る線路の分岐器レバーのすぐ側にいた。線路の先では5人の他人が線路上に縛られていて逃げることはできない。トロッコの進路を切り替えれば5人は助かるが、別の線路には1人の友人が縛られていて逃げれない。あなたは5人を救うために、1人を犠牲にするかしないか。》
先に申すと、この問題には明確な解答はなく、倫理学概論にある、友人より効率的な結果を重視する「功利主義」と友人とは助けるべき責任関係が働く「義務論」の対立意見を分かりやすく例題化させた問題なので、性格・年齢・職種などによって解答結果が異なる。
このトロッコ問題の応用にあるのが、もしあなたがブレーキ壊れていること気づかずに車を運転していて、進行先の横断歩道に5人の老人が渡っていて、急遽左にハンドル切り替えようとしたら道路に1人の子どもが歩いていた。そのような場合、あなたは老人を救うために、子どもを犠牲にするかしないか。
そして、これがAIによる自動運転の車に乗っていた場合、AIはどのように選択するか。また、この責任は誰にあるのか。ちなみに話の便宜上、システムエラーで自動ブレーキ装置は作動しない。
現時点での法的・倫理的観点だと、まだ解答は出ていない。何なら道路すべてを高速道路化にして、わざわざ侵入してきた人に責任がある方向にした方がマシではないかという意見があるぐらい、誰も責任を取りたくない状態にある。
今後、AIに委ねる領域が広がるだろうが、人間だけでなくAIだってミスを起こす。ミスを起こす可能性が低いのは断然AIだけど、いざミスが起こったときのダメージが圧倒的に大きいのもAIである。
そのとき、人間社会は二つの考え方が求められる。「AIというのは、もうそういうものだと割り切って受け入れるしかない」、もう一つは「AIを絶対的なものとして見ないようにする」。羽生氏は後者が大事になってくると思うと述べている。
最近でも、2019年に横浜市のモノレールで起こった「金沢シーサイドラインの逆走事故」があった。「AI＝全知全能」と捉えた瞬間から、理性中心社会の割り切れない歪みが明確化されていく。
法律・倫理・自然など曖昧のままだった割り切れない問題を、AIが無理やり計算結果で片付けて、それらをすべてAIが管理するようになったら、それこそAIに乗っ取られたら、序盤に書いたSFの世界になる。娯楽で片付けていた地獄は、暴走したトロッコのように文明進化の線路の先にある。人類は分岐器を目の前に、どのような選択をするのか。議題はかなり山積みのようだ。
ちなみに人類が人工知能に対抗できる最終手段は、なんと「電源プラグを抜く」こと(古典的っ！)。だけど、その電源もAI自体が管理できるようになったら、本当に人類は滅びるかもしれない。人間でいえば仮死・蘇生を自在に操作できるわけなので、その瞬間からAIは都市社会を牛耳る全知全能の神となる。
全知全能の神の下で、知性を持つ人間はどのように暮らしていけばいいのだろう。
養老氏の思う、一つの展望が59ページに語られている。
「むしろAIが、理性中心社会からの脱却のために、いいターニングポイントを作ってくれればいいんですね。例えば、人間が肉体労働をして田舎で一年の半分を暮らしていても、AIがちゃんと、知的な活動のかなりの部分を代わってやってくれるという。そうすると、非常にバランスのいい社会ができる可能性もありますよね。AI化で、野に遊び、田畑を耕しという、人間本来の暮らしに戻れる余白ができる。本来は、それって楽しいことだから。」
AIによる、新しい「農業文明の開化」である。
◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆
【本日の参考文献】
◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆
【あとがき】
本書と瀧本哲史『2020年6月30日にまたここで会おう 瀧本哲史伝説の東大講義』を交えた解説文も書きましたので、どうぞよろしくお願い致します…！
本日も最後までお読み頂きありがとうございます。この記事は無料です。この記事をスキ以上に応援したい方は、下にあるサポートをご利用ください。サポートして頂いた売上は、今後の記事を書く為の活動資金にあてさせて頂きます。不審な誤字や表現にお気づきの場合は、コメント欄までお知らせください。