人工知能は意識を持ちうるか?

ユヴァル・ノア・ハラリの最新作

『21 Lessons for the 21st Century』英語版の要約‘Artificial intelligence and natural stupidity’ P68~72

‘人工知能と元来のバカさ加減’

毎度である、チャプター冒頭のスパイスのきいたタイトルです。「 #人工知能 　が、いくら発達したとしても、人間元来のバカさ加減は変わっていないし、変わらない。」ということを念頭において読んで頂けるとスッキリするかもしれません。ここ数回にわたってきた、‘ #LIBERTY ’の章が本日で最終となります。本章の総論といいますか、まとめ、あるいは、おさらいになります。次回からは、‘#EQUALITY ’の章に入ります。

良いニュースとして。少なくともこれから数十年の間は、私たちは、ダークな #サイエンスフィクション の悪夢を考慮しなくてもよい。 #AI が意識を獲得して、人間を奴隷にして抹殺するといったような悪夢である。我々は、ますます #アルゴリズ に、自分の決定をさせるようになってはいるが。#アルゴリズ が、意識的に我々を操作し始めるというようことはなさそうだ。 #アルゴリズム はどんな意識も持ちそうではない。

#人工知能 が、意識を獲得するであろうと想定するのは間違っている。なぜなら、知識と意識は決定的に違うものであるからである。知識は、問題を解決するための能力であり。意識は、痛み、喜び、愛、あるいは、怒りといったことを感じる能力である。私たちは、その二つを混同しがちである。なぜなら、人間と他の哺乳類にとって、知識と意識はたいへん仲の良いものであるからである。哺乳類は、感じることによってほとんどの問題を解決する。しかしながら、コンピュータは、違うやり方で問題を解決する。飛行機が、羽を発達させずとも、鳥より速く飛ぶように。感情を発達させずとも、哺乳類よりも上手に問題を解決する。 #AI が、人間の病気を診察し、テロリストを発見し、道路を案内する。こういったことのために #AI が、上手に人間の感情を分析したとしても、 #AI 自身はどんな感情も持ってはいない。

意識のありようのような、私たち自身の長きにわたる必要事項によらず。私たちは、経済政治システムの直近の必要事項によって、人間の能力を調べ、発達させている。例えば。私の社長は、可能な限り早くメールに答えるように要求するが。私が食べている食事を、味わい賞味することにあまり関心がない。つまり。私は食事中でもメールをチェックするが。自分自身の感覚に注意を払う能力を欠いている。経済システムは、欲求のポートフォリオを広げるように、私に圧力をかけるが。経済システムは、私の情熱を広げてくれる利益を、全く与えてはくれない。したがって。株式市場のミステリーを、私は理解したいと切望するが。起こっていることの深い原因を理解する努力はほとんどしない。

このようにみてくると、人間は他の #家畜化 された動物に似ている。私たちはたくさんの量のミルクを出すように檻の牛にエサを与える。しかしながら、それらの元々の先祖にはかなり無関心である。それら先祖は、ちょっとバカで資源にならないといったくらいの捉え方である。

我々は、たった今、 #家畜化 された人間をつくっている。たくさんの量のデータをつくって、巨大 #データプロセッシングメカニズム の中の有効な #チップ として機能しているのであるが。それらは、人間の潜在能力を決して最大化してはくれない。とりわけ。十分な人間の潜在能力とは何かといった考えを持っていない。なぜなら、私たちが人間の心についてあまり知っていないからである。そして、人間の心を探求するのに私たちは、全く投資していない。その代わりに。インターネット接続の速度を上げることに注力し、 #ビックデータアルゴリズム の有用性に注力している。もしも私たちが注意深くなかったら、私たちは #ダウングレード された人間で終わってしまうに違いない。コンピュータを #アップグレード するのに失敗し、自分自身と世界を無茶苦茶にしてしまうだろう。

#デジタル独裁制 は、私たちに待ち構えている危険性だけではない。一方で自由にも待ち構えている。自由の秩序は平等の価値によって保障されている。自由主義は政治的な平等を謳っているが、経済的平等も重要であると認識され始めている。 #ソーシャルセーフティーネット と少しの経済的平等がなかったならば、自由は意味を持たない。 #ビックデータアルゴリズム が自由を台無しにするのならば、それらは、かつて存在しなかった最も不平等な社会をつくるに違いない。すべての富と力が、わずかなエリートの手に収められる。一方で、多くの人々が搾取に苦しむ、というよりももっと悪いことに、無視に苦しむであろう。