AIは敵か？／人類と機械の未来

★お知らせ★
この連載が書籍化されます！6月4日(火)発売！

人類を変えた7つの発明史 火からAIまで技術革新と歩んだホモ・サピエンスの20万年

「ヒトよりも知能の高い存在が現れること」は、そんなに恐ろしいことか？

　この記事では、超知能ＡＩへの懸念がどれくらい妥当なものなのかを考察しましょう。ＡＩを「正しく恐れる」ことはできるでしょうか？
　高性能なＡＩに対する恐怖は、大きく２種類に分類できるでしょう。
　具体的な恐怖と、漠然とした恐怖です。
　たとえば無人の攻撃ドローンが誤作動により間違った人物を殺害したり、自動運転車が事故の瞬間にトロリー問題（トロッコ問題）を上手く解けなかったり、医療用ＡＩが誤診したり――。ＡＩが高性能になり普及するほど、そういう事故が現実味を帯びます。これらに対する恐怖が、具体的な恐怖です。こうした危険性を抑えるために、アシロマＡＩ原則のような指針が制定されたことには大きな意義があると思います。
　一方、「人間よりも賢い存在が生まれてしまうこと」に対して、漠然とした恐怖を抱いている人も多いようです。おそらく、この恐怖は「人類は地球上で最も知能の高い存在であり、知能の高さゆえに地球を支配することができた」という前提に基づいています。だからこそ、「もしもヒトよりも知能の高い存在が現れたら、私たち人類は支配者の地位を追われてしまうのではないか」という恐怖心に繋がるのでしょう。
　超知能ＡＩの危険性を訴える人は、しばしばこの２つの恐怖を混同しているように私は感じます。果たして、後者は妥当な恐怖なのでしょうか？　それともただのパラノイアにすぎないのでしょうか？

ヒトよりも高い知能？

　超知能ＡＩの暴走を恐れる人は、「知能が高い」という表現をわりと乱暴に使っていると私は感じます。心理学者や生物学者であれば、知能の高さについて、もっと慎重な表現を使うでしょう。というのも、知能の高低は単一の指標で測れるようなものではないからです。