人工知能と人間の境目「人工知能に哲学を教えたら」読了

人工知能に哲学を教えたら (SB新書)

人工知能の可能性については不確定要素が多いという断りを入れた上で、その可能性の行き着く先について、哲学の対象となるテーマごとに思考実験した本。人工知能は人間ではないものの、人工知能も「哲学できる」という結論。いわゆる哲学の問題「世界とは何か？」「良き根拠とは何か」など、哲学のテーマについて人工知能としての問題解決能力があるということです。そして「信念」もある。しかし人工知能は生き物でももちろん人間でもないので、生き物としての本能だとか人間としての自我や情動だとか意識みたいなものはありません。果たしてその境目はどこなのか？哲学者としてもうちょっと深掘りして説明して欲しかったです。

人工知能に関する本を立て続けに読んでいるのは、人間や生物と機械の境目はどこにあるのか？にフォーカスすることで「人間とは何か」「生き物とは何か」という根本的問題に向き合うためです。

ということで本書は哲学者の岡本裕一朗さんによる「強い人工知能」に関する著作です。「人工知能（＝機械）も哲学できる」というのはわかるのですが、このまま終わってしまうと、では生き物や人間との境目はどこなの？という答えが欲しくなる。著者はなんといっても哲学者なので。

「いやいや人間は有機物でできていて、機械は無機物ででできていて、その素材の違いだけで将来的には全く同じものになるんですよ」というなら、このままでいいのかもしれませんが、人工知能の第一人者の松尾豊さんや西垣通さんのような専門家の間では「人間＝生命＋知能」ということで

「人工知能は、人間の機能の一部である知能を置換するだけで生命としての機能を持つことは原理的に不可能」

というのが定説。しかしこの境目が非常に説明が難しいところで、個人的にはここに一番興味があります。

この点、結構誤解している人が多く、スピルバーグの映画『AI』のようにピノキオみたいに人間と全く同じ心を持ったロボットが将来本当に登場すると思っている人も多いわけです。もちろんアイボのように擬似的な生命体は作れますよ。しかしアイボには「自分」はないですよね。ここが難しいところです。

つまり以下の様な整理。
生き物　　　＝自律的主体
うち人間　　＝高度な意識を持つ自律的主体
強い人工知能＝人間の知能相当、あるいはそれ以上の意識を持たない他律的主体

松尾豊さん曰く「人工知能は世界の特徴量を見つけ特徴表現を学習することであり、これ自体は予測能力を上げる上できわめて重要である。ところが、このことと、人工知能が自らの意思を持ったり、人工知能を設計し直したりすることとは、天と地ほど距離が離れている」（松尾豊著「人工知能は人間を超えるか」より）。

加えて、例えば映画「ターミネイター」のスカイネットは各種兵器を統合的に制御します。その目的は米国を守る（＝米国市民を守る）ことにあると思いますが、そのアルゴリズムが「バグか何かの何かのきっかけで」スカイネットそのものを守ることが目的と化します。そして仮に人間もスカイネットの存在に障害になると判断すれば、そのアルゴリズムによって人間を絶滅しようとさせます。このようなことも、合わせて「あり得ない」ということです（そもそもバグが起きた時点で機能しない）。

＊長野県　渋峠スキー場