人工知能リスクに対する自由思考の阻害

人工知能の技術進化の速度と、私たちの社会や私たち自身への影響が大きいことが明確になっているにも関わらず、多くの人がその事について的確に思考することができていないと私は感じています。

高度な人工知能のプラスとマイナスの影響について考える時、技術的知識や深い思考能力を必要とせず、素直に考えれば理解できる部分も大きいにも関わらず、議論が迷走していたり、あまり高い関心が払われていません。これは、知識や思考能力の不足の問題ではありません。

私たちは日常的に思考しながら生活し、仕事の計画を立てたり、人生の設計をしたりしています。もちろん完璧な思考など誰にもできませんが、一定程度の十分な思考能力は、多くの人が持っています。こうした思考の能力が素直に発揮できることが、私たちの生活、仕事、人生に大きな影響を与えています。

高度な人工知能の影響への理解や関心の低さは、この思考が素直に発揮できていないという点にあるというのが私の一つの結論です。

この記事では能力を素直に発揮できる思考を、自由思考と名付け、その仕組みを整理します。そして、人工知能の影響について考える時、何が自由思考を阻害しているのかについて分析を行います。

最後に、高度な人工知能のマイナスの影響は私たち全員が受けるということを理不尽な法律の罰則に例えることで、いかに自由思考の発揮が阻害されているかが理解しやすくなることを示します。

■個人の思考

一人の個人は、過去の出来事や経験を記憶し、そこから学習したことを次の機会に生かすことができます。自分の周囲の状況を知覚し、わからないことがあれば確認し、現状を認識することができます。学習したことと現状認識から、未来の出来事を予測したり想定したりすることができます。

また、苦痛や楽しみ、怒りや喜びといった感情から、自分の欲求を把握します。共感や信念から価値観を形成することができます。欲求や価値観を元にして、目的や目標を定めることができます。

個人であっても、欲求や価値観は多数あり、複雑な関係を持ちます。その中には優先順位や相反や、曖昧さもあります。

また、現実や予測や想定によっても、判断は変化します。

目的や目標は、こうした事も加味して定められます。そこにははっきりとした部分もあれば、曖昧で時間と共に変化する流動的な部分もあります。

この目的や目標に未来を近づけるために、行動の計画を立て、実行し、状況の変化と評価を繰り返していきます。

行動の計画の立て方には個人差があります。計画の立て方とは戦略です。そして個人差は、性格や考え方の癖によって決まってきます。

■個人の思考の例

この個人の思考は、将来の計画や人生プランを考える場合や、ビジネスを成功させる方法を考える場合など、複雑で重大な物事を考える際に重要です。

しかし、複雑で重大な物事だけでなく、ごく自然な日常的な事に対しても、私たちは同じ仕組みで思考しています。

例えば近所に新しいパン屋さんが出来て、そこでパンを買うとしましょう。過去の経験から好きな種類のパンとあまり好きではないパンを学習していますが、その店でその種類のパンが美味しいかどうかはまだわかりません。このため、その好みの種類のパンを買って食べてみます。すると、とても美味しいことが分かったとします。

これにより、次もこの店で、その種類のパンを買えば、美味しいという体験がまたできると予測することができるようになりました。この予測結果を元に、次の機会にもそのパンを買うという行動を計画し、実行するでしょう。

また、その店のパン職人は腕が良く、自分の好みにマッチしている可能性が高いため、他の種類のパンも美味しいと想定することができます。このため、ついでに別の種類のパンもいくつか買ってみて、好みのパンを他にも見つけようという戦略を立てて、実行するでしょう。

このように、私たちはごく自然に、様々な場面やレベルにおいて、この仕組みで思考しています。

■自由思考

私たちが日常的に行っている、こうしたごく自然な思考を、自由思考と呼ぶことにします。

自由という言葉をつけたのは、自由でない思考が存在するという事を示唆するためです。分かりやすい例は、思い込みです。強い思い込みが介在すると、自由思考が妨げられます。

パンの話であれば、この世で最もおいしいパンはある一種類のみで、他のパンは食べる価値が無いという思い込みがあったとすれば、先ほどの思考の多くは妨げられます。これにより、より自分の味覚に合った美味しいパンと出会う機会を失います。

他には、欲求を我慢するということも自由思考を阻害します。これも同様に美味しいパンを見つけたり、それを選んで買う機会を減らします。

また、恨みや贔屓などの感情や人間関係も、自由思考を阻害します。以前からなじみの店を贔屓にしたり、新しい店の店主に個人的な恨みがあったりすれば、新しい店でパンを買う可能性が低くなるでしょう。

このように自由思考の阻害は、個人の欲求を満たす機会や度合いを損なう事になります。ここから理解することができるのは、自由思考には個人の満足を増やす性質があるという事です。

個人の満足とは、単に快楽や経済的な損得の次元だけでなく、社会的な評価や道徳的実践や自己実現などの欲求も満たすことも含みます。このため複数の欲求のバランスを取る事も自由思考の役割です。例えば、美味しいものを食べることを部分的に我慢することで、健康を保つことができることを加味した上であれば、自由思考は健全に発揮されていると言えます。

■自由思考の能力

自由度だけでなく、自由思考の能力の度合いも、欲求の満足に大きく影響します。

自由思考には、様々な能力が必要です。記憶力、学習能力、感受能力、情報収集能力、調査能力、予測能力、想定能力、想像力、計画立案能力、などが挙げられます。

これらの能力のどこかに弱い部分があれば、それが全体の自由思考の能力を押し下げます。例えば記憶力が低ければ、学習したはずの自分の好みのパンの種類を忘れてしまうかもしれません。感受能力が低ければ、より美味しいということを比較することができず、どのパンを食べても同じくらいの満足度になるかもしれません。情報収集能力や調査能力が低ければ新しいパン屋さんに気がつかないかもしれません。想像力が低ければ、この店の他のパンも美味しいかもしれないという考えに至らず、他の種類の美味しいパンに気がつかないかもしれません。

■人工知能を取り巻く状況

人工知能技術が驚くべき進化をしています。今後、人間の知能を全面的に超え、さらには人類全体の知能を超える人工知能が登場するという予測が立てられています。

自然言語を使って人間と見分けがつかないレベルでチャットができる会話型AIが既に実現しており、今後の人工知能向けのコンピュータの性能向上と人工知能のアーキテクチャやアルゴリズム研究の継続、量子コンピュータの実現性の具体化といった現実を直視すると、この予測は絵空事ではありません。

しかも、100年先や50年先といった未来の出来事でなく、10年後や5年後といった差し迫った現在の私たちの社会や生活の中で部分的には現実化する可能性も想定されます。

一方で、人間の知能を全面的に超える人工知能が登場した時に、どのような問題やリスクが社会にもたらされるかは不透明です。これはまだ分からないという問題ではなく、知り得ることができないということです。なぜなら、私たちは人間より知能が劣る相手については知っていますが、人間より知能が高い相手にはこれまで出会ったことが無いためです。

そして、体が大きいとか、力が強いという事であれば、出会ったことが無くてもある程度想像することができます。しかし、知能という複雑なものが、人間の能力を超えるという事そのものが、私たちがそもそも理解できる物事の範疇を越えているのです。

さらに悪いことに、人類が人工知能を生み出しそれが人類の知能を超えるという事は、その人工知能は、より知能の高い人工知能を作れるという事を意味します。従って、一度人類の知能を超える人工知能ができると、際限なく知能が高い新しい人工知能が開発されていき、知能の高さがちょっと高いレベルでなく、私たちが見上げても見えないほどに高いという人工知能ができる可能性すら考えられるのです。

こうした未知の状況に対して、様々な立場の人々が懸念の表明や警告の声を上げています。しかしながら、多くの人はそれを真剣に受け止めることができていません。人工知能の研究開発に関わっている研究者や技術者は、こうした表明や警告を気に留めず、研究開発を続けている状況です。中には、明示的にこうした懸念に対して反論、あるいは適切な対処ができるはずだという主張をしている研究者たちもいます。

■人工知能のリスクに対する自由思考

自由思考の観点からこの状況を分析すると、恐怖感情の断絶、これまでの技術との類似性の誤認、進歩に対する思い込みが、自由思考を妨げていると考えられます。

まず、人間よりも遥かに知性の高い人工知能と言われても、恐怖や焦りのような感情が湧き上がってきません。例えばエイリアンが地球に攻め込んでくるという話なら、恐怖や焦りを感じやすいと思います。

しかし、人工知能の影響が予測不可能で、その中に大きな被害も懸念されているにも関わらず、人工知能に対する恐怖を私たちは肌感覚として感じにくいようです。

これは見知らぬ場所で濃い霧がかかっている時に、崖があるかもしれないからそっちに進むと危ないと言われているのに関わらず、前に進んでいけるかどうかという話で例える事ができます。

崖に落ちる恐怖を感じることができる人は、恐らく進まないか、かなり慎重に進むでしょう。しかし恐怖を感じることができなければ、少ない注意しか払わず前に進むでしょう。

リスクに見合った恐怖を感じないということは、このように自由思考を阻害します。

次に、類似性の誤認です。これまでも人類はリスクがある様々な技術を開発、最終的には上手くリスクを抑えて活用するということを繰り返してきました。

人工知能という技術でも同様だと考えてしまうのは、類似性の誤認です。これまでの技術は重さや大きさの例のように、小さいものを知っていれば大きなものを予測することができるものでした。しかし人工知能は、人間の知能を超えた時点で、私たちには予測が不可能になります。

また、これまでの技術はリスクが顕在化したら、技術の進歩にブレーキを掛けつつリスクを抑えるための安全技術の開発に力を注ぐことでリスクとのバランスを取ることができました。

人工知能は、より高度な人工知能を作ることができるため、私たちが安全技術を作っても、イタチごっこになったり、そもそも安全技術の開発が追いつかなかったりして、リスクを抑える事ができないかもしれません。

このように性質が全く異なるにも関わらず、これまでの事例と類似していると誤認してしまうと、自由思考が阻害されてしまいます。

さらに、技術進歩はメリットが大きいため、必ず推し進めるべきだという思い込みを持っている人は多くいます。あるいは技術の進歩は止めることができないという思い込みを大勢の人がしています。

この思い込みが、人工知能の進化に対して懸念の声を高める意欲を削いでいます。これも明らかに自由思考を阻害しています。

多くの人が、人工知能のリスクを肌感覚として脅威に感じ、これまでの技術とは異なる事を認識し、技術の進化を社会がコントロールするべきで、力を合わせればできるはずだと考えれば、自由思考が発揮できるはずです。

自由思考が発揮できれば、見知らぬ道を濃霧の中で進む危険性を正しく認識し、立ち止まるか安全を確実に確認しながらゆっくりと進むことを選択するはずです。

■さいごに：理不尽な法律のアナロジー

人工知能のリスクについては、技術的に深い知識や詳細なリスクケースを洗い出さなければ理解できないという考えも広く見られます。

しかしここには２つの誤解があります。

１つ目は、技術的に詳しくなれば予測やリスクケースの具体的な特定ができるという誤解です。どんな知識を持っていても、見知らぬ土地で濃霧の中を歩くことで起きるリスクを予測したり、リスクケースを特定することは不可能です。

２つ目は、予測やリスクケースの洗い出しをしてからでなければ、合理的な判断ができないという誤解です。濃霧の中を歩くことは危険であることは明白です。後は、未知の危険を避けて立ち止まるか、それでも危険を覚悟して進むか、その決断をするだけです。

このように、人工知能のリスクは、この記事で説明したような概念が整理されれば、深い理解も技術的な詳細知識がなくても、考えることができます。

リスクが顕在化すれば、私たち全員がそれぞれに大きな被害を受けるのです。

これは例えるなら、「人工知能の技術開発者の誰かが社会に大きなダメージを与えた場合、連帯責任として未成年を含む人類全員が生命、身体、財産を含む基本的人権の一部あるいは全てを剥奪される」という法律があるようなものです。

こんな理不尽な法律があったら、多くの人は怒りを感じるはずです。法律が覆らないのなら、人工知能の技術開発者に開発の停止や状況説明を求めるでしょう。このように明文化された法律はありませんが、現実問題としてこうした法律があるのと全く同じ状況に、私たち全員が置かれています。

この法律が明文化されていてもいなくても状況は同じですが、私たちの受け取り方が異なるのは、法律という例を示すことで、自由思考が上手く働くようになるためでしょう。