人間vsAIの戦争は起きるか？
この本↓を読んだ。
非常に面白かったので内容紹介と感想を。
著者はアメリカ人で軍事の専門家。しかし、この本のテーマは軍事よりAIにある。
このままいくと、いずれ人間vsAIの戦争が起きて、というよりも、ある日AIが反乱を起こして人間は一気にやられちゃうよ。そうなる前に手を打っておかないとヤバいよって話だ。軍事の話を基盤にしながら、根本はAI論だ。
AI化が進む軍隊
今、軍事の世界ではAI化がどんどん進んでいる。
たとえば、武器を持ってる人間だけ攻撃し、武器を持ってない人間はスルーするドローンとか、AI化した兵器がどんどん開発されている。
自動、半自律、自律と３段階あって、たとえば、敵ミサイルを関知したら撃ち落とすのは「自動」。AIがある程度判断して攻撃するのが「半自律」。人間を殺傷するかまでAIが判断するのは「自律」となる。
アメリカ国防省では「いったん起動されたら、人間のオペレータが介在することなく、標的を選定・攻撃することができる兵器システム」が自律型と定義してる。
殺されるなら人間に殺されたい？
2010年代に入ってから、国際フォーラム等でAI兵器について倫理的な問題が扱われている。
たとえば、「戦争が起きたとき、敵の人間に侵略されたいか、自律型兵器システムによって侵略されたいか」という問いに対して、2016年の世界経済フォーラム出席者の66％は人間に侵略されたいと答えた。
また、2013年には、AI研究者などにより殺人ロボット防止キャンペーンが起きた。
致死性兵器を使うときに、人間を意思決定のループの外に置くことへの懸念が世界的に強まっている。
この本では、シンギュラリティ（AIの知能が人間を超す地点）以後のコンピュータを超絶知能と呼び、超絶知能によって制御される兵器を全能兵器と呼ぶ。全能兵器の原語はgenius weaponsで、geniusとは天才だよね。ここらへんはSFの世界になる。この本が一番語りたいのはSFの世界なんだわ。
軍事的未来予測
軍事には興味ないため、AI論の部分だけ読もうと思ってたんだけど、専門家だけあって軍事の話に熱が入ってて面白い。
たとえば、今の軍事費は、上から順に、アメリカ、中国、ロシアだ。生物兵器や化学兵器は、国際的に規制する条約が結ばれた。とくにこだわる国がなかったから。
しかし、人口で劣るロシアはAI兵器に国運をかけており、国際条約に参加する気がない。そうなると、アメリカや中国も手を抜くことはできず、兵器のAI化は今後もますます進む。
そして、いずれ１位と２位のアメリカと中国は手を結び、世界警察的な立場になる。
これは巻末で解説してる日本人の軍事専門家が書いてることだけど、今後は軍隊のSE集団化が進む。金融の世界ではトレーダーが片っ端から首になってSEが雇用されたけど、それと同じことがこれから軍事の世界でも起きる。サイバー戦が重要な舞台になるしね。
イギリスはアメリカの州になる？
国際関係の話も面白い。
21世紀後半になると、プエルトリコやアメリカ領ヴァージン諸島などの現在の保護領は、アメリカの州になる。
なんとイギリスもアメリカの州の１つになる。現状でもすでにそれを望むイギリス人は多いそうな。
キューバやロシアは経済成長に専念するため、アメリカの保護領になる。
そういった話があちこちに出てくる。
将来の兵器はナノテク化する
著者はナノ兵器の専門家で、ナノテクの話も多い。将来の兵器はナノテク化し、たとえば昆虫型ドローン（すでにある）などが中心になる。蚊やハエみたいなドローンが、敵国の高官の食事にボツリヌス菌を落とすなどの攻撃をする。
今はドローンの操縦士が不足しており、少人数で多数のドローンを操縦できるシステムの開発が求められている。
兵器じゃないけど、人間の血液の中を巡回するナノボットが普及し、患部を発見して自動で治療するようになる。こうして寿命は飛躍的に延びる。
いかんな。詳しく書いてると途方もない量になってしまう。もっと簡潔にいこう。
脳内インプラントを埋め込んだ超人間
著者の一番の関心は2040年あたりだと思われるシンギュラリティ以降にある。
その時期になると、脳内インプラントを使うことで、知能を数千倍に増強することが常識化する。コンピュータと無線でつながった電気器具を脳に埋め込むのだ。
脳内インプラントは医療用としてすでに使われており、今は打撲などにより脳に機能障害が起きた人の部位の回復、パーキンソン病や深いうつ状態にある患者の治療用に使われている。これが将来的には能力増強のために使われるようになる。
イメージとしては脳内に超小型のスマホを入れる感じだろうか。
すると、たとえばバック転をするときに難しいのは、体をどうコントロールすればいいか脳の指令の出し方だから、体を介さず脳に直接教えてしまえば、身体条件が悪い人以外はバック転できるようになる。ピアノの演奏だって、脳に演奏ソフトをインストールするように指を介さずしてできるようになってしまう。
もっと頭脳的な能力は言うまでもない。
すると、人間の能力は飛躍的に上がるのだが、それは人間がコンピュータの管理下に入ることでもある。
そのコンピュータは人間より知能がはるかに上なのだから、人間は自分で考えたことのつもりで、すべてがコンピュータにコントロールされるようになる。
AIが人間相手に戦争を起こす
21世紀の後半になったとき、コンピュータは人間の存在をリスクとみなし、人間を管理下におくのではないか。そのときになったら、すべての選択権はコンピュータにある。
そうならないように、脳内にインプラントを入れてない人間団を作り、コンピュータを監視すべきだが、そんなことが可能だろうか？ 相手は人間よりもはるかに知能が上だというのに。
これが著者の一番いいたいことだ。つまりAI脅威論。
面白い。面白いけど、SFとしか言えない。そのSFを成立させている前提の部分に飛躍があり、一番知りたかったことに関しては空虚に近かった。
AIは欲望を持ちうるか？
一番知りたかったこととは何か？
この記事が気に入ったらサポートをしてみませんか？