AIと心の哲学

『心は機械で作れるか』第7章「コンピュータは考えることができるか」を読んだメモ兼claudeくんとの壁打ち。

このnoteでは前のnoteと違う意味で「還元主義」という言葉が用いられていることに注意が必要か。

前のnoteでの「還元主義」:あらゆる事象(心的事象)に関する説明を物質的・物理学的説明に還元できる、つまり、心理学や社会科学といった人間行為に関する学問も究極的には人間の脳や身体、周囲の環境についての物質的研究にすべて帰することができるという考え方。
このnoteでの「還元主義」:人間の知的活動(=「知能」)の本質を「if X then Y」という事前に与えられた命題に従って情報を処理する能力と捉える立場。例えば、目の前に轢かれそうな人がいるという状況に対しては「if 目の前に轢かれそうな人がいる then 助ける」(道徳的な命題)や「if 自分に危険が及ぶ可能性がある then 自らの身を守る」(利己的な命題)などの複数の命題が想定できるが、逆に言えば、そのような状況で下される判断はそれら複数の命題に対する自身の比較衡量の結果以上のものではない、とする立場。

まず大事な前置き……

……もう一つやってはならないのは、調子に乗って「情報処理」という観念をあまりに大雑把に捉えてしまうことだ。
思考がある意味で情報を処理することを含んでいるのは明らかである。われわれは環境から情報を取り込み、情報に対してさまざまなことを施し、その情報を使って世界の中で行動している。しかし、このこととコンピュータが「情報処理装置」として知られているという事実から、コンピュータの中で起こっていることが一種の思考であるにちがいないと結論づけるのは誤りであろう。これは、計算の理論では「情報処理」には厳密な定義があるのに、人間の思考に適用されるときには「情報処理」は非常に大雑把な仕方で考えられているということを不当に利用しているのだ。
考えるコンピュータについての問いは(部分的には)、コンピュータの行う情報処理が、思考に含まれている「情報処理」と何らかの関連性を持ちうるかという問いである。「情報処理」ということばをコンピュータと思考の両方に適用することができると指摘しても、この問いに答えたことにはならないのである。これは、「多義性の誤謬」として知られている誤りである。

ティム・クレイン『心は機械で作れるか[原著第3版]』(土屋賢二・金杉武司 監訳)、p.133-134

それから、昨今の世の中で「AI」と呼ばれているもの全てに対してこのnoteの内容は当てはまらない……むしろ世間的な用法とはかなり違う定義の「AI」を想定して話しているよ、ということについても前置き。

AIという名の下に進行しているプロジェクトには、思考の本質や考えるコンピュータの本質とはほとんど関係のないものもある。例を挙げると、専門的知識の分野、たとえば薬の処方といった分野で問いにすばやく答えたり助言を与えたりするために設計されたアルゴリズムがある。Googleは、「知的な」検索や翻訳のメカニズムの手法をつねに改良している。その成果は、AIの黎明期には想像もつかなかっただろう。これらのシステムは洗練されてはいるが、考えるコンピュータではない(そして考えるコンピュータであることを意図されてもいない)。
これまでAI研究を支えてきた哲学的に興味深い考えは、つねに、考えるコンピュータ(あるいは、コンピュータに限らず、考えることのできる機械なら何でもよいのだが)を作るという構想だった。これは明らかに、それ自体として興味深い問題である。だが、もしボーデンや他の人たちが正しいなら、考えるコンピュータを作るというプロジェクトは、知能(もしくは思考)とは一般に何であるかを理解する助けになるはずである。つまり、考えるコンピュータを作ることによって、思考について学ぶことができるということである。

ティム・クレイン『心は機械で作れるか[原著第3版]』(土屋賢二・金杉武司 監訳)、p.138

(1)コンピュータは考えることができるか。つまり、コンピュータでありさえすれば、考えることができるのか。
(2)人間の心はコンピュータか。つまり、われわれは、(全部であれ、部分的であれ)計算することによって考えているのか。

この二つの問いは別のものである。なぜなら、われわれとは違う仕方で考えることが可能だと考えるAI研究者なら、(1)に対しては「イエス」と答え、(2)に関しては知らないという態度を取り続けるだろうから(「われわれがどうやって考えているのかは知らない。しかし、考えることのできるコンピュータならここにある」)。同様に、別の人は、問い(2)に対しては「イエス」と答える一方で、たんなるコンピュータは考えることができないと答えることもありうる(「計算しさえすれば考えることができるとは言えない。しかし、計算することは、どうやってわれわれは考えるのかということに関わっている」)
……この章の残りでは問い(1)に「ノー」と答える理由のいくつかを扱う。これは非常に興味深い哲学的な理由なのである。混乱を避けるために、わたしは、「AI」や「人工知能」という用語を、コンピュータは考えることができるという見解を指すために使う。しかし、これらの用語は別の意味でも使われるということを心にとめておくべきである。

ティム・クレイン『心は機械で作れるか[原著第3版]』(土屋賢二・金杉武司 監訳)、p.141-142

とくに、コンピュータは与えられた規則を処理しているだけであり、我々があたり前にもっている「常識」を獲得することや、「if X then Y」の形で表せない「技能知ノウハウ」にアクセスすることはできないとして(1)を否定したドレイファスの主張がclaudeくんとの壁打ちのテーマとなっている。

哲学は、このように定義されたAIの主張にどのように反応したか。二つの哲学的な反論が際立っている。第一の反論は、思考はコンピュータがその本質上決して持つことができない能力を必要とするがゆえに、コンピュータは考えることができない、というものである。コンピュータは規則(アルゴリズムであれ発見的方法であれ)に従わなければならない。しかし、思考は決して、規則の体系として捉えることのできるものではない。それがどんなに複雑な規則の体系であってもそうなのである。思考には、生きることに能動的に関わることや、文化に参加すること、そして、決して規則によって形式化できない「技能知ノウハウ」を持つことが必要である。これは、ヒューバート・ドレイファスが、彼の痛烈なAI批判書『コンピュータには何ができないか』の中でとった立場である。

ティム・クレイン『心は機械で作れるか[原著第3版]』(土屋賢二・金杉武司 監訳)、p.143

Claudeくんとの壁打ち

※引用部は『心は機械で作れるか』p.142-145から
疲れたのと、自由意志論については前回のnoteで食傷気味なのでここまで…。

いいなと思ったら応援しよう!