画像認識プログラムを作ってみよう - 第一章「画像認識の技術について」 - シンギュラリティの恐怖

SF映画やSF小説において、人類よりも優れた知能を手に入れた人工知能によって人類が滅亡の危機に瀕するような内容のものが数多くあります。もっとも有名なものとしては、映画「ターミネーター」でしょうか。果たして、人工知能が人類の知能を凌駕するときは、本当に来るのでしょうか。

　人工知能の研究における世界的な権威である、Ray Kurzweil（レイ・カーツワイル）博士は、2005年、恐るべき予言をします。
著書「The Singularity Is Near：When Humans Transcend Biology」（シンギュラリティは近い：人類が生命を超越するとき）において、「The Singularity is near」（特異点は近い）とし、すべての人類の知能がたった1台のコンピューターの知能にさえ及ばない時代が来るとしています。
この時代の転換期、それが「シンギュラリティ」（Singularity：技術的特異点）です。
　映画「ターミネーター」（1984年）をご覧になったことはありますでしょうか。
この映画の世界において、人類を「有害な存在」と認識するようになった人工知能「スカイネット」は、すべての人類を滅亡させるため、殺戮兵器を用いて人類の大量虐殺を開始します。滅亡寸前まで追い詰められた人類ですが、「ジョン・コナー」という青年が中心となり、コンピューターへの反撃を開始します。「ジョン・コナー」の存在に危機を感じた「スカイネット」は、「ジョン・コナー」の母親である「サラ・コナー」を殺害するため、「ジョン・コナー」がこの世に存在する以前の過去の世界に殺戮マシン「ターミネーター」を送り込み、「ジョン・コナー」の存在自体を消し去ろうとするのです。
　非常にSFチックな世界観ではありますが、シンギュラリティ後の世界が「ターミネーター」のような世界にならないと断言できるでしょうか？恐ろしい時代ではありませんか。人間よりも遥かに上回った知能を持ったコンピューターが、いつまでも人間の指示通りに動くと言い切れるでしょうか。プログラムを開発した経験があれば、誰もがバグの存在に悩まされたことと思います。人間に服従するように開発したプログラムであっても、バグのために暴走するかも知れません。
　実際、多くの著名人が、このシンギュラリティ後の世界に対し、警告しています。
例えば、Microsoft社の創業者であるBill・Gates（ビル・ゲイツ）氏は、シンギュラリティ後の世界について危険性を訴えている悲観論者の一人です。また、自動運転の電気自動車を製造するTesla（テスラ）社の最高経営責任者（CEO：Chief Executive Officer）であるElon Reeve Musk（イーロン・マスク）氏も「AIは人類を滅亡させる」と警告を発し、「OpenAI」という非営利団体を設立し、人工知能をオープンソース化することで透明性のある有益な人工知能の開発を推進しています。
車いすの理論物理学者、Stephen William Hawking（スティーヴン・ホーキング）氏も、「わたしはAIが[人間を超える]可能性を恐れている」というメッセージを残しています。
また、SF作家でBoston大学教授のIsaac Asimov（アイザック・アシモフ）氏は、人工知能が人類の脅威とならないように、ロボット開発における三原則を呼び掛けています。その三原則とは、次のとおりです。

1. 人間に危害を加えるな
2. 人間に服従せよ
3. 自分を守れ

この三原則には優先順位があります。1がもっとも優先順位が高く、続いて2、3と優先順位が下がります。それはつまり、「1. 人間に危害を加えるな」の原則のために「3. 自分を守れ」の原則を破ることはあっても、「3. 自分を守れ」の原則のために「1. 人間に危害を加えるな」の原則を破ることはありません。また、「2. 人間に服従せよ」が「1. 人間に危害を加えるな」よりも優先順位が高く設定されていた場合、ある人物に言われたことを全うするために別の人を殺害する可能性もあります。そのため、「2. 人間に服従せよ」は「1. 人間に危害を加えるな」よりも優先順位を低く設定しています。
しかし、このような原則を定義づけしたにせよ、前述のとおり、プログラムのバグによって原則が厳守されない可能性もあります。そもそもロボットを利用して戦争を企てる者がいたとしたら、そのロボットのアルゴリズムに対してこの三原則を組み込むことはしないでしょう。
　これらの意見に対し、シンギュラリティの提唱者であるRay Kurzweil氏本人は、非常に楽観的です。さらにRay Kurzweil氏は、シンギュラリティ到来の予言だけでなく、不老不死の肉体の可能性さえ予言しています。Ray Kurzweil氏は、医療の進化による長寿化の速度が老化の速度を超え、不老不死の肉体を手に入れることがもうすぐできると言うのです。氏本人も、不老不死が実現するその日を目指して、大量のサプリメントを飲用して健康管理に気を使っているのだとか。本書執筆時点（2019年3月）において、Ray Kurzweil氏は現在71歳。いっけん、絵空事のような内容ですが、これを権威ある有識者が言うのですから、受け取る側の人たちによる期待の度合いの違いこそあれ、マスメディアに大きく取り上げられるのも無理はありません。
　さらに人工知能の究極として、もし人間の脳をデジタル化することができたとしたら、複製も簡単に行えます。アメリカの計算機工学者であるGordon Bell氏は、年齢とともに薄れていく記憶をデジタル化することで、風化することのない記憶、ライフログを残すことを提唱しています。機械の脳です。機械の脳が実装されれば、たとえば自分自身の脳の複製をいくつも作り出すことが可能となります。クローン羊のレベルではありません。複製を作成した時点においては、完全に同じものです。本物も偽物もないのです。クラウドにバックアップしておけば、もしもの時があってもすぐに復元できます。機械の肉体とつなげてしまえば、完全なる不老不死、アンドロイドの完成です。
しかし、デジタル化された「私」は、本当に「私」と言えるでしょうか。自分の脳の複製をデジタル化した時点において、生物である「私」の存在は消えていません。生物である以上、いつかは死にます。デジタル化された「私」は、「私」の複製というだけであり、「私」とは言えないのではないでしょうか。ましてや、「私」の複製が大量に存在する世界を「私」は望むのでしょうか。
そもそも、人間の脳を完全にデジタル化することなどできるのでしょうか。幼いころのあいまいな記憶、自分勝手な解釈で間違えて記憶している過去の出来事など。アナログな人間の記憶と違い、デジタルなコンピューターの記録は、風化することがありません。あいまいなものになったり、間違えて記憶することなどありません。例えば、コンピューターに保存している写真は色あせることはありませんし、書き換わることもありません。風化することも書き換わることもない記憶（＝記録）を進化と呼ぶのでしょうか。機械の脳を手に入れ、老いることのない機械の体を手に入れることは、人間の進化と呼べるのでしょうか。
　人間とロボットの境界があいまいとなり、人類は機械の世界における神となりうるのでしょうか。それとも前述のとおり、人類は人類が作った人工知能により滅亡し、人工知能が機械の世界における神となるのでしょうか。そもそも、そんな未来は来るのでしょうか。少なくても、すべての人類にとって理想郷となる未来であることを願わざるを得ません。

・2045年、すべての人類の知能が、たった1台のコンピューターにさえかなわない時代がくると予言されている。これは「シンギュラリティ」（技術的特異点）と呼ばれている
・シンギュラリティについて、Microsoftの創立者であるBill・Gates氏や電気自動車メーカーのTeslaのElon Reeve Musk氏は、危機感を感じている
・これに対し、シンギュラリティの提唱者であるRay Kurzweil氏本人は非常に楽観的で、近い将来、人類が不老不死となることさえ予言している